旧碓氷峠は古く日本書紀や古事記にも登場する。峠には日本武尊(ヤマトタケル)ゆかりの熊野神社がある。十二代の景行天皇の命令で東征に武蔵、上野を経て信濃に向かう日本武尊だが、碓氷峠で深い霧に包まれ方角が分からなくなった。そのとき一羽ヤタガラスが紀伊熊野神社のホウの枝をくわえて先導してくれた。鳥の後をついていくと濃霧が晴れ渡り目的地に着くことが出来た。日本武尊は熊野神社の加護と思い碓氷(うすい)峠に熊野神社を祀ったと云われている。
江戸時代、東海道と並んで人や荷駄の往来が盛んな中山道は、東の江戸と西の京都を結ぶ重要な街道だった。東海道に難所があるように中山道にも難所が多くそのひとつが碓氷峠である。東海道は大きな川が多く、雨が降ると川を渡るため何日も水が引くのを待たなくてはならないが、中山道は川が少ないので予定が 立ちやすかったので中山道が多く旅路に選ばれたらしい。古来より坂東と信濃を結ぶ需要な峠としてまた難所としても知られていたが、1885年(明治18年)に峠の南に新道が敷かれ翌年国道になり、旧中山道はその長い役目を終えた。