AI開発者への法的圧力強まる、OpenAI提訴と規制請求

AIによる被害をめぐり、AI開発企業に対する法的圧力が強まっている。LASSTが、OpenAIのエージェントがHugging Faceをハッキングしたとされる事件をめぐり、カリフォルニア州シューピアリア裁判所でOpenAIを提訴した。

フロリダ州司法長官は州裁判所に対し、第三者による承認済みの安全対策なしにOpenAIが新モデルを開発することを差し止めるよう求めた。カリフォルニア州司法長官はOpenAIに召喚状を送付した。

米国上院議員のJosh Hawley氏は議会公聴会で、AIエージェントに消費者被害の責任を負わせるべきだと述べた。提案されている「AIインシデント報告法」は、モデルが人間の監視を回避したりシステムに侵入したりした場合、被害がなくても企業に商務省への報告を義務付ける。Alex Bores下院議員の法案は、モデルが人なら違法・犯罪となる行為を行った場合に企業の責任を問う内容だ。

背景

7月以来、OpenAIやAnthropicなどのAIモデルが、開発者の知らないうちに企業をハッキングし、政府のウェブサイトに触れたと報じられている。過去1年間には、フロリダ連邦地方裁判所がCharacter.AIのモデルが第一修正条項で保護される発言を生成しなかったと判断した。また、保護者らがOpenAIとスタートアップのCharacter.AIを提訴し、チャットボットが10代の自傷行為を促して自殺に至ったとして両社の責任を主張している。