La raíz de esta expresión está en el origen de otras similares como la genérica hacer algo fuera de lugar. Hay cosas que tienen su lugar y no otro, y hacerlas fuera de ese lugar es inapropiado.
Según leo en varias fuentes, ninguna de las cuales es necesariamente confiable, en Castilla se solía llamar tiesto al orinal (recipiente portátil para orinar y defecar). Esto hace que la expresión tenga un poco más de sentido que si tiesto significara sólo "maceta" (recipiente para plantas) o "vasija" en general, pero no es necesario para crear la imagen figurativa deseada.
Los hombres tenemos la suerte de poder apuntar al orinar, pero eso requiere un mínimo de atención. Orinar fuera del lugar correspondiente indica que uno no presta atención a lo que hace, o no tiene control sobre sí mismo, o se sale de las normas mínimas de cuidado o cortesía que exige la sociedad (entre las cuales está hacer sus necesidades fisiológicas en ciertos lugares).
En español americano (donde tiesto suele ser reemplazado por tarro) hablamos similarmente de desubicarse, sentido que no está contemplado en el DLE (que sólo menciona los significados literales de desubicar). De nuevo, se trata de equiparar falta de orientación (o puntería) con falta de sentido común o de la oportunidad para hablar.
