Rayarse (de estar rayado) es un lunfardismo que aparentemente (yo lo ignoraba) se hizo lo suficientemente popular, al menos en España, para que el DRAE le quitara la marca de localismo. La tenía en la edición anterior:
rayar.
[...]
10. prnl. coloq. Arg., Chile y Ur. enloquecer (‖ volverse loco).
R.A.E.: Diccionario de la lengua española (2001)
El origen está en la analogía del loco con el disco rayado, que hace que la púa salte de un lado para el otro, resultando en sonidos incoherentes.
El sitio Etimologias.dechile.net dice más o menos lo mismo:
La palabra RAYADO se usa para describir a alguien "rayado de la cabeza", o sea que transmite siempre la misma loquera. Antiguamente, se escuchaban temas musicales en una vitrola o tocadisco. Este aparato hacia girar un disco que tenía un surco espiral. Sobre este surco se ponía la aguja de un brazo fonocaptor, el cual convertía las vibraciones de la aguja en el surco del disco a sonidos musicales. A veces el disco se rayaba y el surco en vez de ir en forma espiral se convertía en círculo. Esto hacía que se repitiera el mismo sonido en cada rotación del disco. A esa repeti.. a esa repeti... a esa repeti... >> (imaginen eso constantemente, hasta que uno le mueve la aguja y...) irrk >> tición se le llamaba "disco rayado". De ahí la gente empezó a decir "suenas como disco rayado", y de ahí se simplificó a "estás rayado".
Con respecto a rallar, la palabra es un cognado del francés railler (burlarse, bromear) y del portugués ralhar:
ra·lhar
verbo intransitivo
1. Falar em voz alta e em tom de repreensão.
2. Repreender gritando.
Dicionário Priberam da Língua Portuguesa [em linha], 2008-2013
Provienen, según algunos, del latín *ragulare, de ragere (vociferar), y no tienen que ver con el rallar del queso rallado, que viene de rallo (rallador), y éste del latín rallum, derivado de radere (raer). (Corominas y Pascual, Diccionario Etimológico)
Por lo tanto, no existe relación (al menos originalmente) entre el rallar de molestar y el de desmenuzar, pero sí entre el primero, el portugués ralhar, el francés railler y el latín ragere.
