Close RECOMMEND

I write about technology, data and privacy.

FotoCuisinette / shutterstock.com

2018年に米国の義務教育の学校で発生した銃乱射事件の件数は24件に及び、114人の死傷者を出していた。米国でネットいじめにあった経験を持つ子供の割合は43%近くに達しており、米国疾病管理予防センター(CDC)のデータでは、4人に1人が複数回のネットいじめを経験し、自殺する子供の数も過去数年間、上昇し続けている。

このような事態をテクノロジーの力で改善し、学校をより安全な場所にする取り組みも始まっている。親や教師らがAI(人工知能)を用い、子供らのSNSやテキストメッセージをモニタリングするアプリが「Bark」だ。

Barkはネットいじめや、小児性愛者の書き込み、鬱や自殺の兆候などの潜在的なリスクを検知すると、子供や学校関係者にアラートを発信する。このアプリは児童心理学者やデジタルメディアの専門家、法律の専門家らのコラボで開発され、利用する学校は1100校以上。300万人の子供たちを守っている。

データの収集先となるのは約25のソーシャルメディアやメッセージアプリ、Eメールなどだ。Barkは暴力的なコンテンツや監視すべきキーワードを発見すると、アラートを発信するだけでなく、取るべき対策を親や教師らに通知する。

BarkでCMOを務めるTitania Jordanによると、このアプリは子供が自傷行為を行う方法をネットで検索した場合、親にアラートを発信すると同時にメンタルヘルス関連の文献のリンクを送り、子供にどう接するべきかを知らせる機能を持つ。Barkは、これまで10数件の学校銃乱射事件の発生を未然に防いだという。

このアプリは学校向けには無料で提供されているが、一般家庭での利用は1ファミリーあたり月額9ドルとなっている。Barkの開発者らは、スマートフォンの普及で子供のネットの利用時間が伸びるにつれて、モニタリングの必要性も増してきたと述べた。

ただし、Barkは子供らのプライバシーを尊重しつつモニタリングを行える点が、他のツールとの違いだという。

「Barkは親や教師らに、子供らのSNSのアカウントにフルアクセスする権限を与えるアプリではない。問題のある書き込みやメッセージのやり取りを発見した場合にのみ、アラートを発信する。親たちに適切なデジタルの知識を与え、子供らを責任あるデジタルネイティブに育てることを支援するのが、我々の使命だ」とJordanは述べた。

編集=上田裕資

PICK UP

あなたにおすすめ

合わせて読みたい