4kiz

NEWS

ニュース

NEWS

AIによる動画検知技術の導入で4kizの安全面を強化

株式会社4kizはこの度、AIによる動画の自動検知技術機能を導入し、こどものためのSNSアプリ「4kiz(フォーキッズ)」に投稿される動画内容を自動検知し、不適切動画の投稿を未然に防ぐ安全対策の強化を行いました。

4kizでは、12歳以下の子どもが利用するSNSであることから、2022年7月リリース当初より、いじめや誹謗中傷、卑猥な言葉や犯罪につながる言葉をNGワードとして設定し、投稿やコメントができないようにすることで、安全面を最優先とした機能設計と運営を行なってきました。

この度、テキストだけでなく、4kiz内に投稿される動画の内容や動画上に編集して埋め込まれたテキストについても、AIによって自動検知する機能を導入するアプリのバージョンアップを行いました。(4kizの継続利用にはアプリのバージョンアップが必ず必要となります。iOS版はAppStore、Android版はGoogle Playから4kizアプリのアップデートをお願いいたします。)

導入されたAIによって不適切な可能性があると検知された動画の投稿は、非公開となり、さらに人の目によって審査が行われます。

これにより、仮にユーザーが4kiz利用規約に違反して、不適切な動画を投稿しようとしても、投稿公開前にAIが自動検知することにより、公開を未然に防ぐことが可能となりました。

また、不適切動画や不適切なテキストを投稿・コメントしようとしたユーザーに対しては、利用規約違反により4kizからの強制退会とし、同ユーザーをブラックリスト化し、アカウント再登録ができない措置を取ります。

これらの取り組みにより、こどものためのSNSである4kizの安全面のさらなる強化につながり、子どもたちやその保護者が安心して利用できる環境の整備につながるものと考えます。

なお、セキュリティレベルを高く設定しているため、実際は不適切ではない動画の投稿もAIの検知により一時的に公開を保留し、事務局による審査となる場合もございます。審査の結果、不適切ではないと判断された場合、投稿が公開されますが、公開までに一定の時間がかかる可能性がある旨もご報告いたします。

※このようなセキュリティ体制にもかかわらず、利用規約に違反して不適切動画等を投稿した悪質なユーザーに対しては、刑法第175条わいせつ物頒布等やその他の違法行為に該当する場合、株式会社4kiz本社の所轄警察署である渋谷警察署に届出を出し、犯人の特定と再発の防止に努めさせていただきます。

※4kizの継続利用にはアプリのバージョンアップが必ず必要となります。iOS版はAppStore、Android版はGoogle Playから4kizアプリのアップデートをお願いいたします。

◉ iOS版(App Store)
https://apps.apple.com/jp/app/4kiz/id1620273667

◉Android版(Google Play)
https://play.google.com/store/apps/details?id=jp.forkiz.app