Transloadit による NSFW 画像の自動フィルタリング
手作業によるコンテンツモデレーションは、非常に非効率でコストがかさむことがあります。特に、大量のユーザー生成コンテンツを扱うプラットフォームでは深刻です。幸い、この作業の大部分は自動化できる場合が多くあります。Transloadit の /image/describe Robot などのツールを使えば、人手を介さずに露骨なコンテンツを簡単に除外でき、モデレーターがより効果的に業務を進められます。仕組みを詳しく見ていきましょう。

NSFW フィルターが重要な理由は?
技術的な詳細に入る前に、NSFW フィルターが重要な理由を簡単に確認しましょう。
- ユーザーの保護:すべてのユーザーにとって安全な環境の維持。特に、子どもにも安心して使えるプラットフォームを目指す場合に重要
- ブランドの安全性:不適切なコンテンツの投稿によるブランド評価の低下を防止
- 法令遵守:EU などの地域では厳格な場合もある、コンテンツ規制の要件への対応
- ユーザー体験:閲覧中に残虐な画像やヌードを見たくないユーザーが大半を占めることを踏まえた、全体的な満足度の向上
このように、画像コンテンツのモデレーションに真剣に取り組む理由は数多くあります。ただし、これを人の作業にするのは、控えめに言っても理想的ではありません。大量の画像を手作業で確認するのは、よい状況でも時間がかかり、最悪の場合は心的外傷につながることもあります。
この状況を改善する方法があるかもしれません。
コンテンツモデレーション処理の自動化
NSFW フィルターやコンテンツモデレーションは、多くのオンラインプラットフォームにとって難しい課題として知られてきました。しかし、機械学習の進歩により、画像分類の大部分を自動化できるようになりました。Transloadit の /image/describe Robot も、内部でこの技術を活用しています。具体的には、AWS と GCP の機械学習サービスを使い、利用可能な最も高度なモデルで画像を分類しています。
では、これを使って NSFW 画像がサイトに掲載されるのを防ぐには、どうすればよいでしょうか?
/image/describe Robot の活用
Transloadit の /image/describe Robot は、画像を分析して詳しい説明を生成できます。この説明から、NSFW に該当する可能性のあるコンテンツを特定できます。さらに、/file/filter Robot と組み合わせて、許可しない露骨な内容のタグを含む画像を除外します。
以下は Assembly のサンプルです。
{
"steps": {
":original": {
"robot": "/upload/handle"
},
"described": {
"use": ":original",
"robot": "/image/describe",
"provider": "aws",
"explicit_descriptions": true,
"format": "meta",
"granularity": "list",
"result": true
},
"filtered": {
"result": true,
"use": "described",
"robot": "/file/filter",
"declines": [["${file.meta.descriptions}", "!=", ""]],
"error_on_decline": true,
"error_msg": "One file contains explicit content!"
},
"exported": {
"use": "filtered",
"robot": "/s3/store",
"credentials": "YOUR_AWS_CREDENTIALS",
"url_prefix": "https://demos.transloadit.com/"
}
}
}
この Assembly は、次の処理を行います。
- アップロードされたファイルを処理します。
- AWS Rekognition を使って画像を分析します。
- 露骨な内容を示すキーワードを含む画像を除外します(キーワードの一覧は、こちらで AWS のものを、こちらで GCP のものを確認できます)。
- すべての画像がフィルターを通過した場合、S3 に保存します。
NSFW ブロック機能の改善
もちろん、この方法では除外の範囲が広すぎる場合もあります。多くのサイトでは、一部の NSFW コンテンツは許可していても、すべてを許可しているわけではありません。そのため、独自のキーワードによるフィルタリングのほうが適している場合もあります。
以下の例を見てみましょう。
{
"steps": {
":original": {
"robot": "/upload/handle"
},
"described": {
"use": ":original",
"robot": "/image/describe",
"provider": "aws",
"explicit_descriptions": true,
"format": "meta",
"granularity": "list",
"result": true
},
"filtered": {
"result": true,
"use": "described",
"robot": "/file/filter",
"declines": [["${file.meta.descriptions}", "includes", "Visually Disturbing"]],
"error_on_decline": true,
"error_msg": "One file contains explicit content!"
},
"exported": {
"use": "filtered",
"robot": "/s3/store",
"credentials": "YOUR_AWS_CREDENTIALS",
"url_prefix": "https://demos.transloadit.com/"
}
}
}
今回も基本的な流れは同じですが、露骨な内容を示すあらゆる記述を確認する代わりに、視覚的に不快感を与えるコンテンツを含む画像だけを除外します。もちろん、許可したいコンテンツの種類に応じて、サイトの要件に合わせた細かな調整ができます。
まとめ
Transloadit の /image/describe Robot を使えば、安全なオンライン環境を維持するための堅牢な NSFW フィルターを作成できます。
さらに詳しく知りたい場合は、過去のブログ記事でもコンテンツモデレーションを幅広く取り上げています。次に取り組むテーマをお探しなら、写真内の顔を自動でぼかす方法もご覧ください。
