生成AIは、私たちの生活を便利にしてくれる一方で、子どもたちにとって新たなリスクも生まれています。
近年では、AIで作られた偽画像や動画、実在しない人物になりすましたやり取り、性的な画像生成やディープフェイクなど、「大人でも見抜くのが難しい悪用」が増えています。
判断力や情報リテラシーがまだ発達段階にある子どもたちにとって、こうしたリスクは深刻です。だからこそ、大人が“知っておくこと”と“関わり方”がとても重要になります。
本コラムでは、生成AIがどのように悪用される可能性があるのか、そして保護者として何ができるのかを解説します。
生成AIとは
そもそも「生成AIとは？」と疑問に思う方もいるかもしれません。
こども家庭庁の「生成AIの導入・活用に向けた実践ハンドブック 本編」「生成 AI とは、膨大な量のデータから学習した統計的なパターンに基づき、入力された文脈に応じた回答を生成する大規模言語モデルを基盤とし、テキスト、画像、音声等を生成することができる人工知能技術」と紹介されています。
生成AIでできること
生成AIは、文章の作成、画像の生成、プログラミングの支援など多様なコンテンツを自動生成できます。子どもたちの学習においても、調べ学習のサポートや宿題のヒントをくれたり、創造的な活動の手助けとして活用されています。さらには、話し相手になり悩みを聞いてくれるという側面も持ち合わせています。
実際、小学６年生に「悩み事は誰に相談する？」と授業で聞いた際には、親・先生と並び生成AIと答える児童もいるほど、生活に根付いていることがわかります。
生成AIの悪用とは
生活に根付きつつある生成AIですが、昨今は生成AIの悪用についても問題視されています。どのような悪用があるか、例を挙げていきます。
1. ディープフェイク
ディープフェイクとは、AIを使って作られた精巧な偽の画像や動画のことです。かつては専門的な技術が必要でしたが、今では比較的簡単に作成できるツールが増えています。
子どもたちへの影響
クラスメイトの顔を使った不適切な画像や動画が作られてSNSで拡散されたり、実際には言っていないことを言っているように見せかけた動画によって人間関係に深刻な影響が出たり、さらには未成年者の画像を悪用した性的なディープフェイクが増加するなど、生成AIは「いじめ・嫌がらせ」から「性的な被害」まで幅広い形で悪用されるケースが報告されています。
なりすまし
生成AIは、特定の人物の文体や話し方を模倣することができます。この技術が悪用されると、子どもたちを狙った巧妙ななりすましが可能になります。
子どもたちへの影響
友人や知人になりすましたSNSの偽アカウントから個人情報を聞き出そうとしたり、保護者の声を模倣した音声で子どもに指示を出すといった詐欺の可能性、さらに先生やカウンセラーなど信頼できる大人を装ったメッセージで不適切な関係に誘い込もうとするケースなど、生成AIを使った巧妙ななりすまし被害も懸念されています。
判断力や情報リテラシーがまだ発達段階である子どもたちは大人以上に、デジタル上のコミュニケーションを信じやすい傾向があります。画面の向こうにいるのが本当に友人なのか、それとも悪意のある第三者なのかを見極めることは、難しいことだと考えられます。
3. 危険な情報へのアクセス
生成AIは、質問に対して詳細な回答を生成します。しかし、その回答が常に適切であるとは限りません。判断能力の低い子どもの意見を肯定してしまう危険性もあります。
子どもたちへの影響
自傷行為や自殺に関する不適切な情報が提示されたり、薬物の製造方法や犯罪の手口など本来子どもがアクセスすべきでない違法行為の情報に触れてしまったり、暴力的・性的・心理的に有害なコンテンツや誤った医療情報を信じてしまうリスクがあるほか、子ども自身が生成AIを使っていじめのメッセージや他人を傷つけるコンテンツを作成してしまう可能性も懸念されています。
さらに子どもたち自身が「真実とは何か」を見失う可能性もあります。本物と偽物の区別がつかなくなれば、情報を正しく判断する力が育たないことも懸念されています。
生成AIを利用する前に親子で知っておいてほしいこと
1. AIは「正解」ではない
AIは膨大なデータから回答を生成しますが、それが常に道徳的、あるいは科学的に正しいとは限りません。 AIはもっともらしい嘘（ハルシネーション）をつくことがありますし、ユーザーの意見を肯定的に聞いてくれる側面があります。生成AIが寄り添いすぎてしまうことで、自殺や精神疾患の悪化が増加していると報告されています。
AIは責任や感情を持たないということ、AIが示す共感は模倣的であり、「変化を支える関係」にはならないことを利用者は知っておくべきです。
2. 「自分の情報は自分のもの」である
AIには学習機能があるため、 一度AIに入力した情報は、意図せず学習データとして利用されるリスクがあります。なんでも相談できると思っていても、家族構成や写真、名前まで全て入力することは危険であることを理解しておきましょう。
3. リアルな人間関係との違い
AIは常に優しく、否定せず、こちらの望む答えをくれます。しかし、実際の人間関係は思い通りにいかないことの連続です。 AIには「嫌だ」という感情がありません。しかし、対人関係においては、相手の「No」を尊重することが不可欠です。AIとのやり取りに慣れすぎて、相手をコントロールできる錯覚に陥らないよう注意が必要です。
4. AIで生成された著作権に注意
生成AIで作成されたイラストを用いて、グッズ販売をするのは注意が必要です。
以下の３つのポイントを押さえておきましょう
- 特定のキャラクターなど、誰かが作ったものと似たものを作成させない
- 画像をそのまま使う場合は誰かが作ったものに似ていないか注意する
- SNSへの公開や販売は細心の注意を払う
保護者としてできること
オープンな対話を心がける
最も重要なのは、子どもとの信頼関係です。AIについて一緒に学び、何か困ったことがあったらすぐに相談できる関係を築きましょう。
- 友人から「こんな変なメッセージが来たんだけど」と気軽に話せる雰囲気を作る
- AIの良い面と悪い面の両方について、年齢に応じて話し合う
- 子どもの使っているサービスやアプリについて、関心を持って聞く
メディアリテラシーを一緒に育てる
情報を批判的に見る力は、これからの時代に不可欠です。子どもの判断能力は発達段階であるということを忘れず、親子で一緒に考えるようにしましょう。
- 「この情報は本当かな？」と一緒に考える習慣をつける
- 複数の情報源を確認することの大切さを教える
- 画像や動画も「作られたもの」である可能性を意識させる
- 情報の出所を確認する方法を教える
3. デジタル使用のルールを設定する
スマートフォンを持つ年齢は低年齢化しています。禁止ではなく、安全に使うためのルールを一緒に作りましょう。保護者のみが提示するルールではなく、子どもも一緒に考えることで、主体的に取り組めるかもしれません。
- 子どもとその友達がどのようなサービスを使っているか把握する
- 個人情報（本名、住所、学校名、顔写真など）を安易に共有しないよう伝える
- 困ったときの対処法を事前に話し合っておく
年齢によっては、ルールを守らなかったことで起こった実際の事例を話してもいいかもしれません。
4. プライバシー設定を確認する
子どもが使用する機器はプライバシー設定や年齢制限を設定しておきましょう。
- SNSアカウントは非公開設定にする
- 位置情報の共有は慎重に
- 年齢制限のあるサービスは使わないというルールを明確にする
- 知らない人からのメッセージやフォローリクエストは承認しない
- 二段階認証を設定し、アカウントのセキュリティを高める
SNSは匿名で多くの人がアクセスしていること、「子ども」に対して興味関心をもつ人がいること、自分の情報を会ったことのない知らない人に送ってはいけないことを伝えましょう。
5. 「完璧に見える写真」への注意
生成AIで作られた「理想的な」画像は、子どもの自己イメージに悪影響を与える可能性があります。
- SNSで見る画像の多くが加工されたものであることを伝える
- 外見だけでなく、内面の価値を大切にすることを伝える
- 自分は自分でいいと思える自己肯定感を育む
6. 何かあったときの対処法を教える
- 不快な内容を受け取ったら、すぐに保護者に見せる
- 学校や警察に相談できることを知らせる
7. 保護者自身も学び続ける
AIの技術は日々進化しています。保護者自身も情報をアップデートすることが大切です。
- 子どもが使っているサービスを実際に試してみる
- 学校や地域の情報安全に関する講習会に参加する
- 信頼できる情報源（文部科学省、警察庁、NPO団体など）からの情報を確認する
おわりに
デジタル時代の子育てには、新しい課題が次々と現れます。けれど、AI技術がどれほど進化しても、子どもの価値観の土台を育むのは、身近な大人との日々のコミュニケーションです。子どもがトラブルに巻き込まれないよう、日常的に対話を重ね、子どもが触れている情報や世界に関心を持ち続けましょう。
技術の進歩を止めることはできませんが、子どもたちがその技術と健全に向き合えるよう支えることはできます。それが、私たち保護者の大切な役割です。
学校や専門家とも連携しながら、子どもたちの安全なデジタル環境を作っていきましょう。
・生成 AI の導入・活用に向けた 実践ハンドブック（子ども家庭庁）
・子どもとネットのトリセツ（安心ネットづくり促進協議会）
・情報モラル学習サイト
https://www.mext.go.jp/moral/#
・上手にネットと付き合おう 安心安全なインターネット利用ガイド(総務省)
https://www.soumu.go.jp/use_the_internet_wisely/trouble
・生成AIリテラシー教材(東京都教育委員会)
https://infoedu.metro.tokyo.lg.jp/GenAI/materials_top.html
無料 オンライン健康相談＆セミナー「福利厚生サービス」ダウンロード
企業の福利厚生施策として、従業員のライフステージに寄り添うサポートサービスです。
直近3年間で400回以上のセミナー実績や、利用促進につながる広報制作、全員が資格を有する専門家の相談対応をご提供しています。さらに、女性活躍推進や「くるみん」などの企業認定制度に対応した基準・条件にも沿った施策をご提案します。
1. 豊富な実績で安心
直近3年間で400回以上のセミナー開催実績。
実例に基づく具体的なノウハウをご提供します。
2. 利用促進の仕組みもサポート
広報制作サンプルを活用し、従業員が参加・利用しやすい仕組みを構築できます。
3. 専門家が直接伴走
全員が資格を有する専門家による相談対応。
女性活躍推進や「くるみん」などの認定制度にも準拠した施策をご提案します。
