個人や企業のデータをどのように取得してAIサービスのトレーニングに活用しているかに関する継続的な問題を受けて、Salesforceが所有するチャットプラットフォームであるSlackをめぐって嵐が巻き起こっています。
会社は、他社と同様に、いくつかの新しいAIサービスをトレーニングするために独自のユーザーデータを活用しています。しかし、Slackがあなたのデータを使用したくない場合、会社にメールでオプトアウトする必要があることがわかります。
そのエンゲージメントの条件は、誰も気に留めていない古くて混乱したプライバシーポリシーに隠されています。それがSlackの場合で、開発者に大きな人気があるコミュニティサイトにポストされ、そのポストがバイラルになるまで、誰もそれに注意を払っていませんでした。
昨晩、Hacker NewsのノートがSlackがどのようにAIサービスをトレーニングしているかの問題を提起し、プライバシー原則への直接リンクを通じて長い会話が始まりました。その投稿は、現在のSlackユーザーにとってニュースであると思われる、SlackがAIトレーニングをデフォルトでオプトインにしており、オプトアウトするために特定のアドレスにメールする必要があることが明らかにされました。
そのHacker Newsのスレッドは、他のプラットフォームで複数の会話や質問を引き起こしました。ユーザーが回答を検索したり、会話スレッドを要約したりする「Slack AI」という新しい製品がありますが、プライバシー原則ページにはその製品名が一度も言及されていないのはなぜでしょうか。また、なぜSlackが「グローバルモデル」と「AIモデル」と両方を参照しているのでしょうか？
SlackがどのようにAIプライバシー原則を適用しているかに混乱を招いていると同時に、データをオプトアウトするためにメールするアイデアに驚き、イライラしている人々がいることから、Slackはそれほど良い印象を与えません。
ショックは新しいかもしれませんが、その条件は新しくありません。インターネットアーカイブのページによると、これらの条件は少なくとも2023年9月から適用されています（会社に確認を依頼しました）。
プライバシーポリシーによると、Slackは顧客データを「グローバルモデル」として特に訓練しています。これらのモデルはチャンネルや絵文字の推奨事項や検索結果のパワーとして使われます。Slackは、データの使用には特定の制限があると述べています。
「Slackは、チャンネルや絵文字の推奨事項や検索結果などのプラットフォームレベルでの機械学習モデルを持っています。これらのモデルは、お客様のデータの一部を学習、記憶、再現するように構築または訓練されていません」と、会社の広報担当者はTechCrunchに語りました。ただし、このポリシーは、会社の広い範囲のAIモデルの訓練について、全体的な範囲や会社の固有の計画には触れていないようです。
Slackは、顧客がデータのトレーニングをオプトアウトすると、「グローバルレベルでトレーニングされたAI/MLモデル」を引き続き利用できると述べています。ただし、その場合、なぜ会社が最初に絵文字の推奨事項などの機能をパワー化するためにお客様のデータを使用しているのかは明確ではありません。
会社はまた、顧客データをSlack AIのトレーニングには使用していないと述べました。
「Slack AIは、Large Language Models（LLM）を使用している別途購入のアドオンであり、これらのLLMを顧客データでトレーニングしていません。Slack AIは、LLMをSlackのAWSインフラ内でホストして使用しており、顧客データが内部に留まり、いかなるLLMプロバイダーとも共有されていないことを保証します。これにより、顧客データがその組織のコントロール下にあり、その組織の独占的な使用にのみ使用されます」と、広報担当者は述べています。
混乱の一部はおそらく近いうちに解消されるでしょう。エンジニアで作家のGergely Oroszからの批判的な見方に対する返答として、SlackエンジニアのAaron Maurerは、会社が「これらのプライバシー原則がSlack AIとどのように連動するかを反映するためにページを更新する必要がある」と認めました。
Maurerは、これらの条件が会社がSlack AIを持っていなかったときに書かれたものであり、これらのルールは検索や推奨事項などに関する会社の作業を反映していると述べました。AIを現在どのように利用しているかについての混乱を考慮して、将来の更新のために条件を検討する価値があります。
Slackの問題は、AI開発の急速な世界では、ユーザーのプライバシーは後回しにすべきではなく、会社の利用条件はデータがどのように、いつ使用されるか、また使用されないかを明確に述べるべきであるという厳しいリマインダーです。
