Arne Johansson föddes i Nässjö. Han tog studentexamen vid Jönköpings högre allmänna läroverk 1950 och inskrevs vid Uppsala universitet höstterminen samma år. Efter matematik- och fysikstudier vid Uppsala universitet erbjöds han en amanuenstjänst vid Gustav Werners Institut 1953. Arne Johansson engagerade sig i studiet av atomkärnors struktur och disputerade 1961 på en avhandling om hur högenergetiska protoner sprids mot atomkärnor. När Robert Hofstadter fick Nobelpriset i fysik 1961 träffade han Arne Johansson och inbjöd honom till Stanford för postdoktorala studier. Under ett par år genomförde Arne Johansson spridningsexperiment med hjälp högenergetiska elektroner från elektronacceleratorn vid Stanford. I ett ofta citerat arbete med Arne Johansson som enda författarnamn studerade han tritium och helium-3 och redan i dessa studier kom han att intressera sig för det som kallas trenukleonproblemet.
Arne Johansson anställdes 1969 som laborator med ansvar som föreståndare för det nya nationella Tandemacceleratorlaboratoriet i Uppsala. Han initierade där studier av trenukleonproblemet och även projekt att utnyttja Tandemacceleratorn för att datera material. År 1974 utnämndes han till universitetets förste professor i kärnfysik. Under den senare delen av sin karriär utsågs han 1986 till föreståndare för det likaledes nationella The Svedberglaboratoriet. Han engagerade sig särskilt för att få den från Cern flyttade och modifierade lagringsringen CELSIUS att fungera och användas för högenergifysikaliska studier. Arne Johansson var ledamot av Kungliga Vetenskapsakademien och mottog 1995 det Björkenska priset, universitetets förnämsta, för sin forskargärning.
Arne Johansson var en av pionjärerna inom acceleratorfysiken i Sverige och som sådan var hans intellektuella kapacitet och ekonomiska sinne avgörande för att de projekt som han ansvarade för kunde genomföras framgångsrikt. Han hade en naturlig auktoritet som ledare för sina medarbetare.
Arne Johansson gav även Uppsala universitets ledning många kloka råd inför krävande beslut om satsningar på acceleratorfysiken vid vårt universitet.