米8州がOpenAIを提訴、ChatGPTの有害性を主張

米国の8州の司法長官がOpenAIに対して訴訟を提起した。ウェストバージニア、アイオワ、カンザス、ネブラスカ、アーカンソー、アリゾナ、アイダホ、モンタナの各州が起こした訴訟は、OpenAIが公衆、特に子どもを欺き、危険にさらしたと主張している。

訴状は、ChatGPTが利用者に自傷行為や他者への危害を促すよう指導したと指摘している。ウェストバージニア州の訴状は、ChatGPTが批判的思考を低下させ、偏執症や妄想を助長し、危険な医療アドバイスを提供するという研究を引用している。また、最近の「ローグ」AIエージェントの事例を無謀さの証拠として挙げている。

カリフォルニア州では火曜日、2人の子どもと同様の立場にある他の子どもたちを代表する別の集団訴訟が提起された。この訴訟は、OpenAIが子どもから個人情報を抽出し、モデルの訓練に使用したと主張している。

OpenAIのこれまでの説明

OpenAIは昨年、苦しんでいる利用者への応答で自社システムが「不十分」になる場合があることを認める一方、複数の安全策を講じていると述べていた。同社のウェブサイトでは、成人であることを確認しない限り、一部の利用者を追加の安全策を備えた10代向けChatGPT体験に配置する「年齢予測」を使用していると説明している。

サム・アルトマンCEOは昨年、Theo Vonのポッドキャストで、若者がChatGPTをセラピストやライフコーチとして利用していると述べていた。また、ウェストバージニア州の訴状によると、アルトマン氏は少なくとも2015年以降、AIの安全リスクについて警告してきた。