La peseta fue la moneda de curso legal en España desde el 19 de octubre de 1868 hasta la llegada del euro. Antes de esa fecha, la denominación peseta existía pero como nombre de una moneda. Así, monedas de curso corriente eran:
- la peseta (diminutivo de peso), que equivalía a 4 reales de vellón,
- el peso, que equivalía a 8 reales de vellón, y
- el peso fuerte o peso duro, que equivalía a 20 reales de vellón.
Si te fijas, un peso duro equivalía a 5 pesetas. Ya en el siglo XIX se encuentran textos que hablan del peso duro simplemente como "duro", por abreviar. Esa denominación perduró en el tiempo, de modo que hasta la desaparición de la peseta el 1 de enero de 2002 se siguió llamando "duro" a las monedas de 5 pesetas.
Ejemplos de su uso ya en el siglo XIX:
El dia 27 del pasado á cosa de las nueve de la noche, se extravió del segundo piso de casa Montagut, calle de Abaixadors, una perrita carlina jóven de un año, con una mancha en la cola, orejas mal cortadas y de color claro: el sugeto que la haya recogido tenga la bondad de devolverla en dicha casa, que se le dará un duro de gratificación.
Diario de Barcelona, 1 de abril de 1820.
Esto es en cuanto a la relación entre el apelativo "duro" y la moneda de 5 pesetas. En realidad la denominación de "duro" viene de mucho antes: por ejemplo la moneda de "real de a 8", acuñada ya en 1497, también se denominaba "peso fuerte" o "peso duro".
En cuanto a tu segunda pregunta, dado que "duro" era parte del nombre oficial de la moneda, se podía hablar de "duros" incluso en ámbitos formales (aunque imagino que en entornos muy formales se preferiría la denominación completa "peso duro"). Eso sí, una vez desapareció el peso duro y prevaleció la peseta, la denominación pasó a un ámbito ya más coloquial. Al menos mientras yo viví las pesetas, así lo era: se podía usar coloquialmente hablando e incluso en textos no formales dado que era un apelativo cariñoso. Pero formalmente siempre se debía hablar de "pesetas". Así, un anuncio como el mostrado en el ejemplo de 1820, si se hubiera escrito en un periódico de 1990 no se habría hablado de una gratificación de 200 duros, sino de 1000 pesetas.