Prezența clerului român în Japonia poate fi urmărită încă din a doua jumătate a secolului al XIX-lea. De fapt, cel mai apropiat colaborator al Sfântului Nicolae Kasatkin în misiunea din Japonia a fost ieromonahul basarabean Anatolie Tihai. El a venit în Japonia în decembrie 1871. El a fost delegat să îl ajute pe viitorul Sfânt Nicolae al Japoniei să mențină comunitatea ortodoxă formată acolo. În 1873, părintele Anatoly a înființat Școala primară ortodoxă din Hakodate, unde a predat în următorii 7 ani. În 1880, părintele Anatoly a fost ridicat la rangul de arhimandrit și a fost rugat de episcopul Nicolae să vină la Tokyo pentru a deveni decan al Școlii de limbi străine și al Seminarului nou înființate. Până la sfârșitul anului 1882, sănătatea Arhimandritului Anatoly a început să cedeze și a fost nevoit să se întoarcă în Rusia, unde a murit în 1893.

O altă figură importantă în istoria Bisericii Ortodoxe Române din Japonia este dirijorul de cor Iacov Tihai. El este fratele arhimandritului Anatolie Tihai, care a venit în Japonia la recomandarea fratelui său către episcopul Nicolae. El a devenit principalul traducător al muzicii liturgice rusești în primele decenii ale misiunii japoneze. Împreună cu Dimitri Lvovski a fondat o școală de muzică liturgică în Tokyo. Jacob Tihai s-a căsătorit cu Yelena Yokoi, fiica unei distinse familii japoneze, în 1876. Jacob a murit în timpul unei vizite la Odessa în 1887, iar soția și copiii săi s-au întors ulterior în Japonia.

De la moartea primilor doi misionari români din Basarabia și până în 2008, nu există nicio înregistrare a vreunui alt cleric român care să lucreze în Japonia.

În ianuarie 2008, comunitatea românească din Japonia, reprezentată de Maria Barbu și Yasui Koji, a solicitat Patriarhiei Române trimiterea unui preot ortodox român care să se stabilească în Japonia și să aibă grijă de sufletele românilor din arhipelagul nipon.

Astfel, în noiembrie 2008, după o serie de corespondențe între cele două părți, părintele Alexandru Nicodim a fost trimis ca preot paroh al nou înființatei parohii "Sfântul Gret Martir Gheorghe" din Tokyo și împrejurimi. Părintele Nicodim a ajuns în Japonia împreună cu soția sa Monica și fiul său Ștefan. Din 2008 până în 2010 au locuit în Izu, prefectura Shizuoka, unde au celebrat Dumnezeiasca Liturghie. În 2010, s-au mutat în Chiba, dar slujbele liturgice au fost ținute în diferite locuri din Tokyo și împrejurimi (centre comunitare, biserici catolice închiriate etc.) În aceste condiții, părintele Nicodim l-a cunoscut pe părintele catolic Leo Schumacher, care a fost de acord să pună la dispoziția Bisericii Ortodoxe Române o sală aparținând Bisericii Catolice Sfântul Anselm din Meguro, Tokyo, al cărei paroh era. În 2013, din cauza unor probleme personale, părintele Nicodim și familia sa au fost nevoiți să se întoarcă în România.

În august 2013, părintelui Nicodim i-a succedat părintele Daniel Corîu, care a sosit în Japonia împreună cu soția sa Cristina-Elena.

Sediul principal al parohiei a continuat să fie Biserica Catolică Sfântul Anselm din Meguro până în noiembrie 2013, când a devenit posibilă folosirea unei capele catolice din districtul Yoga, Setagaya Ward, Tokyo. Cu un spațiu propriu, Biserica Ortodoxă Română din Japonia a început să se stabilizeze și să ia forma unei biserici românești autohtone, iar numărul enoriașilor a început să crească. Cu toate acestea, din cauza unor factori externi, în anul 2016 comunitatea Bisericii a fost nevoită să se mute din nou, de data aceasta în orașul Kunitachi, Tokyo. Noua locație aparținea, de asemenea, Bisericii Catolice, dar congregația locală o folosea doar o dată pe lună. Astfel, membrii bisericii au fost de acord să o închirieze Bisericii Ortodoxe Române, cu intenția clară de a o vinde. Pe parcursul unui an, cu sprijinul financiar al Patriarhiei Române și al Guvernului României, precum și al membrilor individuali ai Bisericii Ortodoxe Române, s-a strâns suma necesară pentru achiziționarea bisericii și a terenului, iar în martie 2017, Biserica Ortodoxă Română a devenit proprietara primului lăcaș de cult ortodox românesc din întreaga Japonie.

Între 2017 și 2020, au fost efectuate numeroase lucrări de renovare și înfrumusețare a bisericii, în conformitate cu riturile ortodoxe. Aceste lucrări au fost încununate de sfințirea Bisericii Sfântul Mare Mucenic Gheorghe la 3 noiembrie 2020 de către IPS Iosif, Mitropolitul Europei de Sud și de Vest, înconjurat de un sobor de preoți și diaconi.

Prin binecuvântarea primită la sfințirea primei biserici românești din Japonia, Biserica Ortodoxă Română a găsit trambulina pentru dezvoltarea a numeroase proiecte misionare menite să extindă și să hrănească spiritul și credința ortodoxă în aceste ținuturi.

În august 2020, Biserica Ortodoxă Română din Japonia a fost recunoscută ca instituție religioasă de către guvernul japonez, în urma unui proces intens de verificare și cercetare care a durat aproximativ 4 ani.

În plus față de aceste realizări, unul dintre cele mai importante proiecte de până acum este înființarea unei capele ortodoxe în Osaka în 2022, pentru a servi creștinilor ortodocși din zonă. La fel de important este și proiectul de organizare și înființare a primului cimitir ortodox din Japonia. Procesul birocratic de organizare a terenului pentru cimitir a durat aproximativ 3 ani, iar acordul de concesiune a fost semnat în 20 ianuarie 2024.