東京大學台灣校友間的聯誼，起源甚早，可以追朔至昭和初年。早在西元1933年（昭和8年）4月，在東京帝國大學就讀的台灣學生及畢業生，於神保町食堂舉行歡迎新生暨歡送畢業生會上，一致同意將原來不定期舉行的聚會，改為一年召開1-2次的固定集會，集會名稱定名為「赤榕會」[1]，並推舉朱昭陽（1928經濟）學長為主要推動聯繫人。「赤榕會」在東京的活動，一直繼續到第二次世界大戰後多數畢業生返台為止。
戰後返台的東大畢業生人數大增，與戰前返國者共計約有七、八十人，有感於「赤榕會」時代充分發揮聯絡校友情誼的精神，返台校友沿用「赤榕會」之名，繼續以此集會方式聯絡感情。初期推舉劉明朝(1922政治)學長為會長，由他號召東大在台校友繼續每年的校友集會，一直到1984年劉會長辭世。其間的校友聯繫業務，先後由王伯榮(1934法律)及郭德焜(1942經濟)兩位校友幹事負責，其間並由吳順昭(1962林學)校友協助兩位幹事推動聯繫工作。1985年以後，本會由楊基銓(1940經濟)學長擔任校友會之「世話人」，並由賴光隆(1968農生)、陳義男(1968機械)、劉錫江(1968水產)、謝文陽(1989水產)四位校友先後擔任連絡人，協助推動校友連繫及聚會活動之工作。其間以東京大學在臺校友會名義，先後陸續編輯並發行校友會會員通訊錄，分發或郵寄各校友。
2004年楊基銓先輩過世，適值母校校友會[2]積極推動全球校友會成立，及年底佐佐木毅總長一行七位來台訪問，為了討論相關事宜，本會於2004年12月19日召開年會，會中正式通過本會定名為「東京大學台灣校友聯誼會」，依據通過之章程，選出理事15人，監事5人（其中各選出常務理事5人及常務監事1人），並共同推舉吳順昭校友擔任理事長，聘請李雅榮(1978船舶)校友為秘書長，廖慧明(1965建築)校友為財務長，獲陳朝亨(1959國際金融)校友支持與同意，將聯誼會設置於台北市中正區館前路59號，泰安產物保險公司內九樓，積極推展東京大學台灣校友聯誼會（簡稱東京大學台灣校友會）業務，獲得校友們的支持，奠定本會之基礎。
2006年12月改選第二屆理監事，選出理事15人、監事5人，推舉黃博治(1968機械)校友為第二屆校友會理事長，聘請廖年祈(2000建築)校友為秘書長，廖慧明校友為財務長，並增設副秘書長與副財務長各一位，副秘書長為石聖弘(2001電子情報)校友，副財務長為黃立翰(2005生物機械)校友，繼續推動校友聯誼事宜。
第三屆理監事於2009年2月新春年會中改選，選出理事15人、監事5人，黃博治校友繼續擔任第三屆校友會理事長，聘請廖年祈校友為秘書長，廖慧明校友為財務長，並增設副秘書長兩名與副財務長一名，副秘書長為石聖弘校友與呂偉豪(2002材料)校友，副財務長為黃立翰校友。
2011年的會員大會於2月19日(六)假福華飯店舉行，共選出第四屆理事15名、監事5名，推舉李雅榮(1978船舶)校友為理事長，聘請向四海(1984產業機械)校友為秘書長，廖年祈校友為副秘書長，黃立翰(2005生物機械)校友為財務長，吳國怡(2005人文社會)校友為副財務長。
2013年3月新春年會中選出第五屆理事15名、監事5名，俟後4月的第一次理監事會議推舉賴浩敏(1969法政)校友為理事長，聘請邱士軒(1991精密機械)校友為秘書長、顏淑娟(2003教育)校友為副秘書長、仍延請黃立翰校友與吳國怡校友管理財務。2014年3月的新春年會中，正式通過將本會更名為「東京大學台灣校友會」。2014年底，為響應母校安田講堂改修工程募款，由校友募集超過一千萬日圓回饋母校，因此本會獲得母校授與「榮譽會員」之稱號。
2015年會員大會票選出第六屆理監事，俟後3月24日的第一次理監事聯席會仍推舉賴浩敏校友續任理事長、邱士軒校友為秘書長、黃立翰校友為財務長。
[1] 有關「赤榕會」初期創設歷史與相關事蹟，請參閱林益謙(1933法律)學長的「東京大學台灣校友會之歷來」一文。
[2] 母校原有「東京大學同窗會聯合會」組織，負責全國校友會綜合事務。校友會總會正式成立後，命名為「赤門學友會」，2014年4月再改名為「東京大學校友會」。