現在メタと呼ばれるグループ内で、人工知能の研究を専門とするメタ AI 部門は、最小限の情報を自由に使える場合でも、コンテキストを理解することで有害なコンテンツを検出できる AI である「フューショット学習器」プロジェクトを発表しました。これらすべてにより、検出時間が大幅に改善され、継続的に学習が進められます。ネットワーク上の憎しみに満ちたコメントと闘いたいFacebookにとっては恩恵だ。
家の中でメタ、明らかにありますフェイスブック、彼の長男でお気に入りの子供だけでなく、彼の小さな兄弟や姉妹（インスタグラム、ワッツアップ、メッセンジャー、オキュラス念頭に置いて）。小さな家族全員をしつけ、よく監督したり、イノベーションを通じて将来の方向性を与えたりすることもできます。研究所、研究部門の銀河系および影の中に住んでいるが、光の中でアプリケーションを提供するその他のエンティティ。
これらの影のチームの 1 つである Meta AI は、他のチームよりも少しだけ将来に向けて準備を進めています。この組織内で、私たちはさまざまな用途に向けて社内の人工知能の改善に取り組んでいます。最新の発表: 信号が最小限であっても、ソーシャル ネットワーク上の投稿内の違法なコンテンツを発見、識別し、報告できる AI。
数発の学習者、明日の節度、しかしすぐに
今週の水曜日、12 月 8 日、メタ AI チームは次のプレゼンテーションを行いました。テクノロジー少数ショット学習者(FSL) これにより、プラットフォーム上の有害なコンテンツが、誤り、意図的に虚偽、近似的、悪意のあるものであっても、迅速に特定できるようになります。すべて、彼が自由に使える最小限の情報を備えています。なぜなら、この新しいモデルはコンテキストを理解して主題を全体的に理解し、より深く理解できるようになったからです。メタ AI チームが研究を加速したのは、パンデミックのさなか、物議を醸す特定のテーマが数週間で定着し、その進行を阻止する対象を認識している AI が不足していたため、すぐに管理できなくなったという観察に基づいていました。
一般に、AI は何を探すべきかを学習する必要があり、そのためには、探索に関連するために収集に時間がかかる何百万ものデータを学習する必要があります。その後、他の科目が追加され、最初からやり直す必要があります。発言するよりも短い時間で話題がウェブを炎上させるソーシャル ネットワークの時代では、反応性の競争は適度に戦争の緊張となります。十分な応答性の欠如により、大きな障害が発生することがよくあります。現在では、効果的な AI を実現するまでの時間が数週間に短縮されています。
少数ショット学習者したがって、ヘイトスピーチ、復讐的なコンテンツ、または違法なコンテンツを、画像またはテキストで、100 以上の言語で追跡できます。 「機械学習のおかげでテクノロジー自体が強化され、理解力が向上し、応答性がさらに向上します。» と Meta AI のプロジェクト マネージャー、Cornelia Carapcea 氏は約束しますが、このテクノロジーはすでに Facebook と Instagram でテストされています。 「これにより、サイトのポリシーに反する望ましくないコメントやコンテンツを生成するイベント、またはモデレートを回避しようとする人々をより迅速に特定できるようになります。これを実現するには、AI が常に進化し、改善できる必要があります。 »
FSL ではすべてが学習の対象となるため、管理または削除するコメントを特定する手順が大幅に少なくなります。したがって、AI は、予測を行ってコンテンツをレポートするために、(主要な要素または信号の) ラベルをほとんど必要とせず、場合によってはまったく必要としません。それは何よりも、一般的な言語のフレーズの数十億の例に依存しています。オープンソース）、プラットフォームからの例、およびスピーチをよりよく理解するために教えられるルールに準拠していない/違反している要素。しかし何よりも、この新しいテクノロジーは、発言の皮肉を理解したり、殺害の脅迫のほのめかしに反応したりすることができます。
機械の中心にいるのは人間です
Facebook と Instagram でのテストでは、Few-shot 学習者は、新型コロナウイルス感染症に関する誤った情報やセンセーショナルなアイデアを共有するコンテンツを特定するという課題を課されました。5Gワクチン、改変された DNA など）だけでなく、暴力の扇動も含まれます。この技術は、これまで従来の AI を騙すことができた言語要素を使用して、バックグラウンドで扇動的なメッセージの検索を開始しました。そして、特にこの点、つまり文の文脈化において、メタ AI チームは従来のモデレーション AI よりも 55% 高い理解を発表しています。
それは何よりも、あなたが投稿のルールを尊重しているかどうかを知るために作られたAIだからです。 「FSL は、通常の分類および検出システムのおかげで、潜在的に危険なコンテンツをより迅速に検出し、その拡散を防ぎます。しかし、私たちはそれが人間の理解に近づくことも望んでいます» とコーネリア・カラプセア氏は主張する。新しい脅威に迅速に反応できる人間ですが、潜在的にその枠組みを押し付ける欠陥や寛容性を持っています。この点において、節度は依然として難しい問題であり、AI だけでは克服できないアプローチです。
特に Facebook にすでに導入されている AI と連携して、FSL は「積極的» 潜在的に危険なコンテンツとその拡散防止を、メタ AI から歓迎します。特にヘイトスピーチは阻止し、特定し、人間のモデレーターに報告して行動を起こすのが最善であったでしょう。
個人を改善する必要がある場合はどうすればよいですか?
これが、FSL プロジェクトがソーシャル プラットフォーム上で興味深いものとなり得る理由です。まず、吐き気を催す、不快な、性差別的、または人種差別的なメッセージを選別するためです。しかし、FSL チームの科学研究者である Han Fang 氏によると、言語が何であれ、効果的なモデルを作成できることが依然として必要です。一部の言語では、信号を特定するために AI をトレーニングするための大量のデータがありません。これは私たちが時々遭遇する問題です。 » それと、その言語のモデレーターが不足していることです。
靴屋は最悪の靴を履いている、という有名な格言があります。今回もそれが本当なら残念だ。なぜなら、メタ AI チームがマーク・ザッカーバーグにとっての最大の悩みであるコンテンツ管理の解決策を見つけるために全力を尽くしているのであれば、それは何よりも Facebook と Instagram を浄化し、なだめることだからだ。他に誰がこれより適しているかわかりません。 2 つのネットワークは依然として必要であり、その消極性はしばしば批判されるが、フェイクニュース、節度のキノコを押したい（これも募集中）。
Meta AI では、効果を発揮するには機械と人間が連携する必要があると確信していますが、構成と最終検証は依然として人間の問題です。そしておそらく、デジタル社会の課題にもっとうまく対処するために、私たちは恒久的な改善と開発を模索しなければならないのは、この側からである... いずれにせよ、メタ AI は、FSL が新しいタイプの違法コンテンツを識別することさえできると約束するこれまでチームによって特定されていなかったもの。しかし、何が良いか悪いかを最終決定するのは常に人間です...
愛好家のコミュニティに参加してみませんか?私たちの不和ここは相互扶助とテクノロジーに対する情熱の場所です。
インスタグラム
フェイスブック
Chiyoye