Spanish version
No es cierto que la letra K esté solamente en palabras nuevas. Baste con mencionar el prefijo kilo- en palabras como kilogramo, kilómetro, etc. Este prefijo viene del griego antiguo χίλιοι chílioi. De hecho, el español tiene la letra K porque la recibió de este idioma. A continuación transcribo (en español actual) lo que dice la primera ortografía de la lengua castellana (de 1741) sobre la letra K (negritas mías):
La letra K la tomaron los latinos de los griegos, y nosotros de los latinos [...]. Es de poquísimo uso, y se podría suplir con facilidad; pero no es intento de la Academia excluir letras, sino explicar el buen uso de las recibidas y admitidas en el abecedario.
Una vez dicho esto, sí es cierto que la propia RAE dice que se puede sustituir por qu- en algunos casos, como por ejemplo en el propio prefijo kilo-, que dice que se puede sustituir por quilo- en el caso de (por ejemplo), quilocaloría (aunque aclara que este caso es poco usado), pero no así en el más moderno término kilobyte.
Sin embargo, resulta curioso saber que al final la RAE se acabó contradiciendo a sí misma. En la última edición de la ortografía podemos leer (negritas mías):
Durante un tiempo, de 1815 a 1869, la ortografía académica llegó incluso a excluir la k del abecedario del español, de modo que para representar el fonema /k/ debían emplearse en exclusiva, según los casos, la letra c o el dígrafo qu. Por esa razón, muchos préstamos de otras lenguas cuyo étimo se escribe o se transcribe con k se adaptaron al español con c o qu, tendencia a la adaptación que se ha mantenido a lo largo del tiempo, también tras la reincorporación de la k al abecedario: cacatúa (del malayo kakatūwa), canguro (del fr. kangourou), cinc o zinc (del al. Zink), cococha (del eusk. kokotxa), disquete (del ingl. diskette), esmoquin (del ingl. smoking), etc.
Así que sí, efectivamente la K llegó a desaparecer del abecedario español durante el siglo XIX, aunque fue readmitida más tarde. No he podido encontrar ninguna explicación de por qué fue readmitida. Simplemente, en la undécima edición de 1869 del Diccionario de la lengua castellana se puede leer lo siguiente en la entrada correspondiente a la letra K:
Duodécima letra del alfabeto castellano, y novena de las consonantes. Ha estado en desuso por espacio de bastantes años, [...]
mientras que en la edición anterior (la décima, correspondiente a 1852), se lee:
Esta letra, que se ha contado hasta hace pocos años como perteneciente a nuestro abecedario, solo se usa en algunas voces tomadas de otros idiomas, y aun en estas se puede suplir [...].
English version
It is not true that the K letter is only present in new words. Think about every word starting with the kilo- prefix, such as kilogramo, kilómetro. This prefix comes from Old Greek χίλιοι chílioi. In fact, the Spanish language has the letter K because it was inherited from Latin, which in turn inherited it from Old Greek. Following is an excerpt from the Orthographía española from 1741 (bold emphasis mine):
The Latins took the letter K from the Greeks, as we took it from the formers [...]. It is very seldom used, and could be substituted easily, but it is not the intention of the Academia to remove letter, but to explain how to use the received and admitted ones.
This said, it is true that the RAE admits that it can be substituted by qu- in same cases, as in the previous example: you can write quilogramo, quilocaloría, but in other cases you cannot, as in the modern term kilobyte.
Nonetheless, fun fact: the letter K was indeed removed from the alphabet by the RAE, contradicting itself. You can read this in the last version of Ortografía de la lengua española (bold emphasis mine):
Between 1815 and 1869, the academic orthography even removed the k from the Spanish alphabet, so in order to represent the /k/ sound you had to use the letter c or the digraph qu, according to the case. Thus, many loan words that were written with k were adapted with c or qu, and this bias was sustained along time, even after the K was readmitted to the alphabet: cacatúa (from Malay kakatūwa), canguro (from French kangourou), cinc o zinc (from German Zink), cococha (from Euskera kokotxa), disquete (from English diskette), esmoquin (from English smoking), etc.
So yes, the letter K was removed from the Spanish alphabet in the XIX century, but was readmitted later. I cannot find any reason as to why the RAE readmitted the letter K, but in the 11th edition of the Diccionario de la lengua castellana, from 1869, you can read this in the entry for the letter K:
12th letter of the Spanish alphabet, and the 9th consonant. It has been in disuse for several years, [...]
whereas in the previous edition (10th edition, from 1852) you can read this:
This letter belonged to our alphabet until recently, but is used only in load words and even in those words it can be substituted [...].
Images
The following image is taken from the Ortografía de la lengua castellana, 8th edition from 1815. You can see that the letter K is missing:
The following image is taken from the Gramática de la lengua castellana, edition from 1870. You can see that the letter K is once more present in the alphabet:
Book scans available through HathiTrust.