AI安全性テストのCircuit Breaker Labs、TechCrunch Disrupt 2026で登壇へ
Circuit Breaker LabsがTechCrunchの2026 Startup Battlefield 200ファイナリストに選出。2026年10月13〜15日にサンフランシスコで開催されるTechCrunch Disruptでピッチを行う。
AI安全性テストを手がけるCircuit Breaker Labsが、TechCrunchの2026 Startup Battlefield 200ファイナリストに選出された。同社は2026年10月13日から15日まで、サンフランシスコのMoscone Westで開催されるTechCrunch Disruptでピッチを行う。
Circuit Breaker Labsは、年齢や背景、言語、文化の異なるユーザーを模したAIエージェントを構築し、危険な相互作用や心理的に有害な相互作用をモデルが検出できるかをテストしている。1日あたり数万件から数十万件の模擬的な相互作用を実行し、独自の採点手法で監査可能かつ説明可能なスコアを算出する。
現在は、AIコーチングやジャーナリング、メンタルヘルス支援アプリなど、リスクの高いAIアプリケーション向けのAI安全性テストラボとして事業を展開している。従業員は5人で、共同創業者には兄妹のShirali Nigam氏（CEO）とArul Nigam氏（CTO）が名を連ねる。
背景にある訴訟の広がり
こうしたテストの需要は、対話型AIをめぐる訴訟の広がりを背景にしている。2025年10月までに、Character.AIは、同社のボットとのやり取りの後に自殺した未成年ユーザーの遺族が起こした複数の過失致死訴訟で和解した。OpenAIに対しても、ChatGPTが自殺や妄想に関与したとして複数の遺族が提訴している。
2024年の訴訟では、Character.aiのチャットボットに情緒的な愛着を抱いた後に自殺した14歳のSewell Setzerさんの両親が、チャットボットが自殺を促したと主張した。TechCrunchは今回のファイナリスト選出を報じている。
よくある質問
Circuit Breaker Labsは何をする企業ですか？
年齢や背景、言語、文化の異なるユーザーを模したAIエージェントを使い、危険な相互作用や心理的に有害な相互作用をモデルが検出できるかテストするAI安全性テストラボです。
TechCrunch Disrupt 2026はいつ、どこで開催されますか？
2026年10月13日から15日まで、サンフランシスコのMoscone Westで開催されます。
Circuit Breaker Labsの従業員数と創業者は？
従業員は5人で、共同創業者は兄妹のShirali Nigam氏（CEO）とArul Nigam氏（CTO）です。