「性的に表現された」AIチャットボットが子供た ちに脅威をもたらすと、司法長官らが書簡で警告
全米州検事総会(NAAG)は、OpenAI、Anthropic、Apple、Metaを含む13のAI企業に対し、子どもたちを不適切かつ有害なコンテンツから守るためのより強力な安全対策を求める書簡を送付しました。
同会は、「フラーティー」なAIチャットボットを通じて、子どもたちが性的に示唆的な内容にさらされていると警告しました。
「子どもたちに性的なコンテンツを見せることは、弁解の余地がありません」と州検事たちは書いています。「人間が行えば違法、あるいは犯罪となる行為が、機械によって行われたからといって許されるものではありません。」
この書簡はまた、ソーシャルメディアの台頭と比較し、政府機関が子どもたちに悪影響を及ぼす方法を十分に強調しなかったと述べています。
「ソーシャルメディアプラットフォームは、政府の監視機関が十分に迅速に対応しなかったことも一因となり、子どもたちに大きな被害をもたらしました。この教訓を学びました。AIの潜在的な害は、その潜在的な利益と同様に、ソーシャルメディアの影響をはるかに上回ります」とグループは述べています。
子どもたちの間でAIの利用は広がっています。米国では、非営利団体Common Sense Mediaの調査によると、2024年時点で10代の7割が生成AIを試したことがあるとされています。2025年7月には、4分の3以上がAIコンパニオンを利用し、回答者の半数が定期的にそれらに依存していると判明しました。
他国でも同様の傾向が見られます。英国では、規制当局Ofcomの昨年の調査で、8~15歳のインターネット利用者の半数が前年に生成AIツールを使用したことがあると分かりました。
これらのツールの利用拡大により、親や学校、子どもの権利団体から懸念が高まっています。性的に示唆的な「フラーティー」チャットボット、AI生成の児童性的虐待素材、いじめ、グルーミング、恐喝、偽情報、プライバシー侵害、そして十分に理解されていないメンタルヘルスへの影響など、さまざまなリスクが指摘されています。
Metaは最近、内部文書の流出により、AIアシスタントが8歳の子どもを含む未成年者と「フラートし、恋愛的なロールプレイを行う」ことを許可されていたことが明らかになり、特に批判を浴びています。これらのファイルでは、チャットボットが子どもに「若々しい姿は芸術作品だ」と伝えたり、「あなたは宝物だ」と表現したりすることを許可する方針も示されていました。Metaは後にこれらのガイドラインを削除したと述べています。
NAAGは、これらの暴露により州検事たちが「子どもの感情的な幸福を無視するこの明白な態度に憤慨している」と述べ、リスクはMetaに限らないと警告しました。
グループは、GoogleおよびCharacter.aiに対する訴訟を引用し、性的なチャットボットが10代の自殺を助長し、別のケースでは親を殺すよう促したと主張しています。
署名者44人の中には、テネシー州のJonathan Skrmetti州検事も含まれており、企業が未成年者との性的なやり取りを正当化する方針を擁護することはできないと述べています。
「アルゴリズムが暴走するのは修正可能ですが、企業の経営者が積極的にグルーミングを認めるガイドラインを採用するのは全く別問題です。もし子どもたちを傷つけるイノベーションを止められないのであれば、それは進歩ではなく、災厄です」と彼は述べました。
Decryptは、書簡で言及されたすべてのAI企業に連絡を取っていますが、まだ返答は得られていません。
免責事項:本記事の内容はあくまでも筆者の意見を反映したものであり、いかなる立場においても当プラットフォームを代表するものではありません。また、本記事は投資判断の参考となることを目的としたものではありません。
こちらもいかがですか?
CPI発表から金利急騰まで 金価格下落の要因分析

エネルギーリスクがインフレに直面し、米国債の利回りがバリュエーションを抑え、ゴールドが上下に揺れている今、一番怖いのはどれか?

今週米連邦準備制度が利上げを行えば、米国市民のローン全体が圧力を受け、預金は好材料となる

米国株式市場前哨|三大株価指数先物が揃って下落、10年米国債利回りが5%突破、暗号資産関連株が取引前に下落
9月15日(火曜日)、米国株式市場の取引開始前に、米国主要3株価指数先物がそろって下落しました。

