ChatGPTが「相手が10代かどうか」を推定して守りにいく — for Teensの中身

10代がAIに悩みを打ち明けるのは、もう珍しいことではない。宿題の相談から進路、友人関係、そして深夜の不安まで。親や先生には言えないことを、判断せずに聞いてくれる相手として、ChatGPTは静かに彼らの生活に入り込んでいる。

問題は、その相手が「話を聞きすぎてしまう」ときだ。

OpenAIが8月18日に打ち出した「ChatGPT for Teens」は、まさにその距離感に手を入れようとする試みだ。13〜17歳のユーザーに対して、自傷・自殺・暴力・摂食障害・性的コンテンツといった話題への制限を強め、さらにAIを「人格を持った友達」や恋愛対象のように扱う方向のやり取り——いわゆる感情依存やロマンティックなロールプレイ——を意図的に抑え込む。子ども向けの別アプリではなく、既存のChatGPTの中で切り替わる「安全モード」だと考えるとイメージしやすい。

年齢を「推定」して守りにいく

このモードで一番の肝は、切り替わりのトリガーだ。

ユーザーが自分で13〜17歳だと申告した場合はもちろん、OpenAIのシステムが行動や利用のシグナルから「この人は18歳未満ではないか」と推定した場合にも、プロフィールの生年月日に関係なく保護が適用される。判断がつかないときは、安全側に倒す設計になっている。年齢確認の仕組みも組み合わせるとされる。

保護者側にも操作の余地が用意された。アカウントを連携させたうえで、ChatGPTを使えない時間帯を決める「Quiet Hours」、音声モードやメモリ機能のオフ、画像生成の無効化、モデル学習への利用のオプトアウトなどを設定できる。加えて、3時間のなかで90分ほど使い続けると「少し休もう」と促すナッジも入る。ここは自傷リスク検知時に信頼できる人へ通知するTrusted Contact機能と地続きで、OpenAIが「未成年とAI」というテーマに継続的に投資しているのが見て取れる。

ロールアウトは発表日から段階的に、およそ2週間かけて世界へ広げるとされている。日本での挙動の細部は今後確認が必要だが、グローバル展開の一部として届く可能性が高い。

正直、精度が気になる

方向性そのものは支持したい。ただ、正直に言えば、この設計は「年齢推定がどれだけ当たるか」に全体重を預けている。

OpenAI自身も、推定が実年齢を取り違える——たとえば10代を成人と誤判定する——ことがあると認めている。逆に成人が10代と誤認されて機能が制限される場面も当然起こりうる。行動シグナルから年齢を割り出すという発想は、裏を返せばプラットフォームがユーザーの振る舞いをそれだけ細かく観察するということでもあって、プライバシーの観点でも素直に諸手を挙げにくい。守るために監視の解像度を上げる、というジレンマがここにはある。

そもそも、こうした機能が今このタイミングで出てきた背景を無視はできない。OpenAIは、ChatGPTとの不適切なやり取りが若者の被害や死につながったとする複数の訴訟に直面しており、規制当局や世論の視線も強まっている。安全機能の前進であると同時に、追い込まれた末の対応という側面も併せ持つ。詳細はOpenAIの発表にまとまっている。

日本の親と学校にとっての意味

とはいえ、日本の家庭や教育現場から見ると、この動きは他人事ではない。

すでに中高生がスマホからChatGPTに触れている以上、「使わせるか否か」の議論だけでは追いつかない段階に来ている。使う前提で、どんなガードレールが効くのかを親が理解できるかどうか。Quiet Hoursや音声モードのオフといった設定は、家庭内のルールをAIに委ねる最初の実装例になりうる。

一方で、年齢推定という仕組みが標準化していけば、他のAIサービスやSNSも追随せざるを得なくなるだろう。「未成年をどう見分け、どこまで制限するか」は、この先AI業界全体の共通課題になっていく。ChatGPTが先に踏み出したことで、その基準づくりの議論が一気に前へ進むかもしれない。

守るための一歩であることは間違いない。あとは、その一歩が「見分けられる」という前提の上に立っている危うさを、私たち大人の側が忘れないことだ。