AI tools generate sexist content, warns U.N.
(Japan Today, 2024/3/8, https://tinyurl.com/2cbpnmzp)
世界で最も人気のあるAIツールは、女性に対する偏見を示すOpenAIとMetaのプログラムを利用しているという。
Meta の Llama 2 アルゴリズムと OpenAI の GPT-2 および GPT-3.5の中ではGPT-3.5が一番偏見が少ないという。しかし、一方のChatGPT3.5はクローズドであるに対して、Llama 2 と GPT-2 はオープンソースであるため、これらの問題を詳しく調べることができるという。そして、新しい AI アプリケーションには、何百万もの人々の認識を微妙に形作る力があるため、小さな性別の偏見でさえ、現実世界の不平等を大幅に拡大する可能性がある。
The world's most popular AI tools are powered by programs from OpenAI and Meta that show prejudice against women, according to a study launched on Thursday by the U.N.'s cultural organization UNESCO.
"These new AI applications have the power to subtly shape the perceptions of millions of people, so even small gender biases in their content can significantly amplify inequalities in the real world,"