広告掲載
AI

テンセント幹部、AIの生物分野能力が危険な域に接近と警告

テンセントの最高AI科学者は、AIが生物兵器開発に悪用され得ると指摘し、Hy4のモデルウェイトと安全性のシステムカードを公開する方針を示した。

テンセントの最高AI科学者であるYao Shunyu氏は、香港科学院と未来科学賞が共催したシンポジウムで、AIの生物分野における能力が危険な閾値に近づいていると警告した。South China Morning Post(SCMP)が報じた。

Yao氏は、AIが薬や治療法の開発を加速させる一方で、悪意ある利用者に生物兵器の開発手段を与え、新たなパンデミックを引き起こす可能性があると述べた。生物分野では、サイバーセキュリティよりも攻撃的能力と防御的能力の区別が難しいとの認識も示した。

テンセントは、Hy4の学習に攻撃的なハッキング資料を排除し、脆弱性の分析や修正といった防御的なデータを用いたと説明している。同社の安全性評価では、Hy4のサイバー攻撃能力に深刻な懸念は見つからず、生物学的知識を実際の有害な実験手順に変換する能力も高リスクの閾値を下回ったとしている。

テンセントは今後、Hy4のモデルウェイトと、サイバーおよび生物分野の安全性評価を記載したシステムカードを公開する予定だ。

Hy4は11月4日に公開

テンセントは2026年11月4日に主力AIモデルHy4をリリースしている。

よくある質問

Hy4のモデルウェイトは公開されますか?

テンセントはHy4のモデルウェイトと、サイバー・生物分野の安全性評価をまとめたシステムカードを公開する予定だと述べています。

Hy4の安全性評価では何が分かりましたか?

テンセントの評価では、サイバー攻撃能力に深刻な懸念は見つからず、生物学的知識を実際の有害な実験手順に変換する能力も高リスクの閾値を下回ったとしています。

出典