27-åringen föll sedan igen när han skulle göra en kvadrupel salchow.
Hanyu siktade på att försvara sina OS-guld från 2014 och 2018.
I stället blev det hans främsta utmanare, den 22-åriga amerikanen Nathan Chen, som tog hem herrarnas individuella OS-guld i konståkning.
Hanyu missade till och med pallen och slutade fyra. Silvret och bronset kneps i stället av två andra japaner: Yuma Kagiyama och Shoma Uno. Svenske Nikolaj Majorov slutade på en 21:a plats.