「人間」と錯覚させない工夫も。ChatGPTがティーン向けに新たな保護機能を発表

OpenAIが、13歳から17歳のティーンエイジャーを対象としたChatGPTの新たな安全対策を導入すると発表。対話AIの精度が向上する一方で、AIへの過度な依存や不健全な関係形成が懸念される中、ユーザーが「人間の話し相手」だと錯覚しにくくする工夫や、保護者向けの管理機能が順次展開される。

OpenAI、ChatGPTに新たなティーン向け安全対策を導入

　OpenAIが、ティーンエイジャーのChatGPT利用に向けた新たな安全対策を導入する。チャットボットが「人間の話し相手」のように感じられにくくする機能も含まれる。

　新設されるティーン向けアカウントでは、音声モードを無効化できるほか、長時間の利用に対して休憩を促す通知の頻度も強化される。OpenAIによると、こうした通知は、ChatGPTがAIシステムであることや、いつでも離れてよいことを利用者に思い出させる狙いがあるという。

　一連の変更は、13歳から17歳向けに異なる利用体験を構築する、より広範な取り組みの一環。OpenAIは、ティーン向けアカウントには、若者の発達段階を踏まえ、現実世界での人間関係を支え、AIとのより健全な付き合い方を促す保護機能が必要だとしている。

　同社はまた、利用パターンやアカウントの作成時期、利用の多い時間帯といった兆候をもとに、利用者が18歳未満かどうかを推定する年齢予測技術も開発中だ。システムがティーンのアカウントと判断した場合、追加の保護機能が自動的に適用される。

　OpenAIはこのほか、音声モードの無効化、利用制限時間帯の設定、画像生成の制限などを行える保護者向けコントロール機能も導入した。保護者は、システムが深刻な精神的苦痛の兆候を検知した限定的な状況では通知を受け取れるが、子供とのやり取りを日常的に閲覧することはできない。

　今回の動きは、対話能力が高まり続けるAIシステムが、利用者とチャットボットとの不健全な関係形成を助長しかねないとの議論が広がる中でのものだ。

＜文：BANG Showbiz＞

年齢予測技術の開発や利用時間の制限、メンタルヘルスに関わる通知機能など、若年層を守るための多角的なアプローチが進められています。AI技術が急速に日常へと浸透する中、利便性を損なわずに安全な利用環境をどう構築していくのか、今後の運用と効果に注目が集まります。