自動顔ぼかし機能の変更について

 

Matterportでは、お客様のためにMatterportデジタルツインの機能をさらに強化するために、最先端の技術を常に創造しています。
その中で重要なのは、お客様のプライバシーを守るために、お客様自身がプライバシーを管理できる機能を提供することです。

その一つが、自動顔ぼかし機能です。顔のぼかしは、画像やビデオに写っている個人の顔をアルゴリズムでぼかすことで、プライバシーを保護するためのソフトウェアです。
この技術は、ストリートマッピングやニュース報道、ソーシャルメディアなど、さまざまな業界で幅広く利用されています。

この機能は、お客様がスペースをアップロードする際に有効にすることができ、Matterportのスペース内で顔をぼかすことで、個人のプライバシーを保護するように設計されています。
自動顔ぼかし機能は、何十万ものスペースでお客様にとって非常に便利で効果的な機能となっていますが、まだベータ版であり、技術的には未完成です。
現在は、オープンソースの顔ぼかしの技術を使用しています。

 

なぜ変わるのか、なぜ今なのか

最近、この技術が当社の基準を満たさず、お客様やMatterportの想像をはるかに超える被害をもたらし、ご家族を苦しめた事例がありましたが。

これは当社にとっても非常に深刻な問題です。

今後のホームツアーのためにMatterportキャプチャーを処理する過程で、顔のぼかし機能が有効になっていましたが、最終的な結果は不完全なものでした。
Matterport撮影時には誰もいませんでしたが、家中に家族の写真が飾られていました。完成したスペースを見ると、この技術は写真の中のすべての顔をぼかすのではなく、一部をぼかしただけでした。

これは、このベータ版の技術の限界であり、特定の稀な状況下では不完全なぼかしが発生する可能性があり、手動または機能を再適用することで修正されます。
顔のぼかしは、写真の中の顔や実在の人物を認識することができますが、今回のケースはもっと問題があります。

この技術は、壁に掛けられた写真に写っている黒人の家族の顔を正しく認識してぼかしましたが、白人の家族の顔は認識せず、ぼかしませんでした。
白人家族のプライバシーを守ることができず、予想外にとても辛い印象を残しました。
最後のスペースには、黒人の家族の顔だけがぼかされた家族写真が飾られていました。これは、家主にとっても、私たちにとっても、衝撃的であり、ショックなことでした。

技術的には、どのようにして、このような珍しく偏った結果を生み出したのか、技術的な理由があることは理解できますが、問題はそこではありません。
この結果が残した印象とご家族への影響は、ただただ心が痛むばかりです。
私たちMatterportには、お客様を守るための機能であり決してお客様を傷つけるものではありません。この非常に辛い副作用に対処するための重要なステップを踏む責任があります。

 

何が変わったのか

このような事態が発生したのは、ベータテスト中に発見されたものが初めてですが、特異な状況下では、発生件数が多すぎると思われます。
そのため、会社として早急な対応が必要であると判断しました。
Matterportでは、あらゆる形態の不平等、人種差別、ハラスメントに対してゼロ・トレランス・ポリシーを掲げており、これは当社の社員とテクノロジーにも適用されます。

その結果、私たちは、顔のぼかしに関するアプローチを根本から見直し、プライバシー保護のための全く新しいアプローチを検討しています。
そこで、Matterport Capture Appにおける顔のぼかし機能の表示方法を変更し、早急に対応することを決定しました。
2020年7月21日より、自動顔ぼかし機能をキャプチャアプリから削除し、その機能と制限を理解しているお客様のみがアプリで許可することで使用できるようにします。

私たちは、会社としても個人としても、人種的な不公平をなくすことを約束します。
今回のケースでは、私たちの技術がこれらの価値観とは矛盾する形となってしまっていましたが、Matterport社が構築する技術のあらゆる側面に平等性を組み込むための貴重なヒントを得ることができました。
これにより、Matterportはより良い製品となり、より良い会社となるでしょう。

 

※当記事はメーカー(Matterport社)の公式ブログ記事の日本語翻訳版です。日本のユーザー様向けに、一部内容を変更・修正している場合があります。元の記事をご覧になりたい方はこちらをクリックしてください。

ブログ一覧へ