昭和30(1955)年、第3期日活ニューフェイスに合格し日活へ入社。翌昭和31(1956)年10月の「飢える魂」で本格スクリーンデビューを飾る。昭和33(1958)年の「絶唱」「完全な遊戯」などでその表現力が注目され、翌昭和34(1959)年に、「ギターを持った渡り鳥」に始まる渡り鳥シリーズ、「銀座旋風児(ギンザマイトガイ)」他、多くの作品に主演して日活の稼ぎ頭となる。
日活退社後はフリーとして活躍。「仁義なき戦い」ではそのストイックなまでの演技力を披露。また、東宝「青春の門」では男くさい男を演じ小林旭=アクションというイメージを払拭し、本物の演技ができる俳優として確固たる地位を築く。
歌手としては、昭和33(1958)年に「女を忘れろ」でデビュー。次ぐ「ダイナマイトが150屯」や、“アキラ節”と名前が付いた「ダンチョネ節」「ズンドコ節」などが次々に大ヒット。また「さすらい」「北帰行」などの映画主題歌も大ヒットとなり、歌う映画スターから演技と歌の両極を完成させる真のエンターテイナーに昇華した。
昭和39(1964)年、クラウンレコードへ移籍し、「自動車ショー歌」「ついて来るかい」「純子」「昔の名前で出ています」などのヒットを放つ。
その後、昭和60(1985)年にはAGFのCMソングとなった「熱き心に」が大ヒット。
現在も各方面で精力的に活躍を続けている。