東急大井町線上野毛駅の南西、徒歩8分。昭和27年（1952年）東京都の史料の編さんと都政に関する文書の保存を目的に都政史料館を設置したのにはじまり、昭和43年（1968年）に都総務局文書課の一部機能を統合して東京都公文書館となった。 以前は港区海岸にあったが、竹芝地区の再開発にともなって平成24年（2012年）に現在地に仮移転した。施設は閉校になった都立玉川高校の建物の一部を利用している。 館内では東京府・東京市時代の公文書の閲覧のほか、東京都制施行（昭和18年7月1日）後の公文書のうち、作成後30年を経過した文書の閲覧ができる。
