Quizás existió una secuencia lógica, pero se desconoce; bien puede haber sido un orden arbitrario.
Ya existía, de alguna forma, el orden actual del abecedario alrededor del año 1400 a. C. Traducido de Wikipedia en inglés:
Se desconoce si los alfabetos más antiguos tenían una secuencia definida. Algunos alfabetos hoy en día, como la escritura Hanuno'o, se aprenden una letra a la vez, sin un orden particular, y no se usan cuando se requiere un orden definido. Sin embargo, una docena de tabletas ugaríticas del siglo XIV a. C. preservan el abecedario en dos secuencias. Una secuencia, el orden ABCDE que más tarde se utilizó en el fenicio, ha continuado con cambios menores en el hebreo, griego, armenio, gótico, cirílico y latín; la otra, HMĦLQ, se usaba en el sur de Arabia y se conserva hoy en el etíope. Por lo tanto, ambos órdenes han sido estables por al menos 3.000 años.
Fuente: Respuesta de Cerberus en Is there a reason behind the ordering of letters in the English alphabet? (Stack Exchange - English Language & Usage)