作曲家
・團伊玖磨
の紹介で11歳で芸能界入り。東映
と専属契約を結び、約70本の映画に出演する。その後フリーとなり、テレビ、ラジオ、吹き替え
などで活躍。
頭の回転が速い才女として知られ、『クイズタイムショック 』では5週連続勝ち抜きを達成。「クイズの女王」と称された。
1974年 、時の首相・田中角栄 に請われ第10回参議院議員通常選挙 に全国区 から自由民主党公認で出馬。全国第5位・125万票の大量得票で32歳の最年少参院議員として初当選。いわゆるタレント議員 のはしりである。同期初当選組には、NHK アナウンサーの宮田輝 、元大蔵官僚の鳩山威一郎 、経済評論家の斎藤栄三郎 、青年実業家の糸山英太郎 、女優の山口淑子 らがいた。
1980年 （全国区 ）、1986年 （比例区 ）の参院選でも再選。1990年 12月には第2次海部改造内閣 の科学技術庁長官 として初入閣を果たす。女性の閣僚起用は史上6人目で、当時は山東が最年少であった。
1992年 の参院選では比例名簿 の下位登載が祟り落選。1995年 田辺哲夫 の死去に伴い繰上当選。1996年 の総選挙では神奈川6区 から衆議院にくら替え出馬するも落選。しばらく政治活動から遠ざかっていたが、2001年 の参院選で比例区 から出馬し返り咲き、2007年 の参院選でも再選を果たした。現職参議院議員として最多の当選6回を数える。
2007年 、第21回参議院議員通常選挙 で自民党が大敗し第二党となったため同党から副議長を出すことになり、第167回国会 で女性では初の参議院副議長 に就任した。副議長就任に伴い、自民党の党籍を離脱。野党 第一党の民主党 から参議院議長 が就任する中、難しい議院運営を迫られる。
2008年 1月、ねじれ国会 における与野党の激しい攻防の中、河野・横路衆院正副議長、江田参院議長とともに国会正常化に向けて、衆参正副議長・与野党幹事長会談を行った[3] 。
2010年7月の第22回参議院議員通常選挙 後、慣例により参院副議長を辞任（参院の正副議長は原則3年で交代する慣例がある）。副議長辞任に伴い、形式的に離脱していた自民党に復党。