株式会社4kizはこの度、AIによる動画の自動検知技術機能を導入し、小中学生向けSNS「フォーキッズ」に投稿される動画内容を自動検知し、不適切動画の投稿を未然に防ぐ安全対策の強化を行いました。

フォーキッズでは、15歳以下の子どもが利用するSNSであることから、2022年7月リリース当初より、いじめや誹謗中傷、卑猥な言葉や犯罪につながる言葉をNGワードとして設定し、投稿やコメントができないようにすることで、安全面を最優先とした機能設計と運営を行なってきました。

この度、テキストだけでなく、フォーキッズ内に投稿される動画の内容や動画上に編集して埋め込まれたテキストについても、AIによって自動検知する機能を導入するアプリのバージョンアップを行いました。（フォーキッズの継続利用にはアプリのバージョンアップが必ず必要となります。iOS版はAppStore、Android版はGoogle Playからフォーキッズアプリのアップデートをお願いいたします。）

導入されたAIによって不適切な可能性があると検知された動画の投稿は、非公開となり、さらに人の目によって審査が行われます。

これにより、仮にユーザーがフォーキッズ利用規約に違反して、不適切な動画を投稿しようとしても、投稿公開前にAIが自動検知することにより、公開を未然に防ぐことが可能となりました。

また、不適切動画や不適切なテキストを投稿・コメントしようとしたユーザーに対しては、利用規約違反によりフォーキッズからの強制退会とし、同ユーザーをブラックリスト化し、アカウント再登録ができない措置を取ります。

これらの取り組みにより、こどものためのSNSであるフォーキッズの安全面のさらなる強化につながり、子どもたちやその保護者が安心して利用できる環境の整備につながるものと考えます。

なお、セキュリティレベルを高く設定しているため、実際は不適切ではない動画の投稿もAIの検知により一時的に公開を保留し、事務局による審査となる場合もございます。審査の結果、不適切ではないと判断された場合、投稿が公開されますが、公開までに一定の時間がかかる可能性がある旨もご報告いたします。

※このようなセキュリティ体制にもかかわらず、利用規約に違反して不適切動画等を投稿した悪質なユーザーに対しては、刑法第175条わいせつ物頒布等やその他の違法行為に該当する場合、株式会社4kiz本社の所轄警察署である渋谷警察署に届出を出し、犯人の特定と再発の防止に努めさせていただきます。

※フォーキッズの継続利用にはアプリのバージョンアップが必ず必要となります。iOS版はAppStore、Android版はGoogle Playからフォーキッズアプリのアップデートをお願いいたします。

◉ iOS版（App Store）
https://apps.apple.com/jp/app/4kiz/id1620273667

◉Android版（Google Play）
https://play.google.com/store/apps/details?id=jp.forkiz.app

＊フォーキッズ（4kiz）は日本だけでなく、6言語で世界中の子どもたちに利用されています。

グローバル版については以下の4kizグローバル版公式サイトをご参照ください。

https://4kiz.net/