By mistake I opened one of these letters.

przez pomyłkę takie jest znaczenie "by mistake"

to po prostu takie wyrażenie, które trzeba zapamiętać
podobnie można by zapytać dlaczego się mówi
"go home", a nie np. "go to home" lub "go to the home"?

mistake w tym wyrażeniu to zwykły rzeczownik, który w innym wypadku zachowuje się normalnie, tz. pisze się go z "a" lub "the", ale w tym konkretnym wyrażeniu jest bez rodzajnika