調査、Amazon、Google、Wishで人種差別主義製品を発見

アマゾン、グーグル、ウィッシュは、調査が彼らのプラットフォームでそのようなリストを明らかにした後、人種差別主義の製品を取り下げました。

BBC Clickの調査によると、販売されていた製品の中には、白人至上主義の旗、ネオナチの本、クークラックスクランのアイテムが含まれていました。

AmazonとWishのアルゴリズムは、他の白人至上主義の商品にも推奨を出しました。これはシンクタンクのデモから、人種差別的な製品に向けてオンラインショッパーを押し進めるために呼ばれました。

「人々がこの道に導かれていることを解明するためには、しばしば人間の調査が必要です」と、デモの最高技術責任者兼上級研究員のジョシュ・スミスはBBCに語った。

「問題の製品は利用できなくなり、製品を提供し、ポリシーに違反した悪意のある行為者に対して措置を講じました。または憎しみを助長します。」

「他者への憎悪を賛美または承認する製品のリストを厳しく禁じます。これらのアイテムを削除するために懸命に取り組んでおり、そのようなアイテムが再び表示されないように追加の措置を講じています」とスポークスパーソンはデジタルトレンドに語った。「私たちは一般の人々に、不快または不適切なリストを[email protected]に報告することをお勧めします。」

Digital Trendsはまた、調査についてのさらなるコメントと、人種差別主義者の製品がプラットフォームに再登場するのを防ぐ方法についての情報を得るために、AmazonとGoogleに連絡しました。返信があり次第、この記事を更新します。

人種差別に対するテクノロジー

X.Eyeé(Googleの責任あるイノベーションのリードリーチ)およびGoogleのポリシーマネージャーであるAngela Williams(プライドサミットではない)は、AIアルゴリズムの偏見が人種差別を増幅させ、米国だけでなく周辺社会を傷つけていると懸念を表明、しかし世界中。

ビッグテックは、人種差別に対処する手段を持っていますが、企業はこれまで具体的な変化を推進することに失敗しています。

2020年7月27日更新:ウィッシュの広報担当者からの声明を追加。