Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
، مقالات

التراخي تحت الهجوم بسبب سياسة تدريب الذكاء الاصطناعي المخادعة


في أعقاب المشكلات المستمرة حول كيفية استيلاء شركات التكنولوجيا الكبرى على البيانات من الأفراد والشركات في تدريب خدمات الذكاء الاصطناعي، هناك عاصفة تختمر بين مستخدمي Slack المستائين من كيفية تقدم منصة الدردشة المملوكة لشركة Salesforce في رؤيتها للذكاء الاصطناعي.

تقوم الشركة، مثل العديد من الشركات الأخرى، باستغلال بيانات المستخدم الخاصة بها لتدريب بعض خدمات الذكاء الاصطناعي الجديدة الخاصة بها. ولكن، اتضح أنه إذا كنت لا تريد أن يستخدم Slack بياناتك، فيجب عليك إرسال بريد إلكتروني إلى الشركة لإلغاء الاشتراك.

وشروط تلك المشاركة مخفية فيما يبدو أنها سياسة خصوصية قديمة ومربكة لم ينتبه إليها أحد. كان هذا هو الحال مع Slack، حتى نشر شخص منزعج عنها على موقع مجتمعي يحظى بشعبية كبيرة بين المطورين، ثم انتشر هذا المنشور على نطاق واسع… وهذا ما حدث هنا.

بدأ كل شيء الليلة الماضية، عندما أثارت مذكرة على Hacker News مسألة كيفية قيام Slack بتدريب خدمات الذكاء الاصطناعي الخاصة بها، عن طريق رابط مباشر لمبادئ الخصوصية الخاصة بها – ولم تكن هناك حاجة إلى تعليق إضافي. بدأ هذا المنشور محادثة أطول – وما بدا وكأنه أخبار لمستخدمي Slack الحاليين – حيث يقوم Slack بتمكين المستخدمين افتراضيًا من تدريب الذكاء الاصطناعي الخاص به، وأنك تحتاج إلى إرسال عنوان محدد عبر البريد الإلكتروني لإلغاء الاشتراك.

أثار موضوع Hacker News عدة محادثات وأسئلة على منصات أخرى: هناك منتج جديد يحمل اسمًا عامًا يسمى “Slack AI” يتيح للمستخدمين البحث عن إجابات وتلخيص سلاسل المحادثات، من بين أشياء أخرى، ولكن لماذا لم يتم ذكر ذلك مرة واحدة من قبل الاسم في صفحة مبادئ الخصوصية تلك بأي شكل من الأشكال، حتى لتوضيح ما إذا كانت سياسة الخصوصية تنطبق عليها؟ ولماذا يشير سلاك إلى “النماذج العالمية” و”نماذج الذكاء الاصطناعي”؟

بين الناس الذين يشعرون بالحيرة بشأن المكان الذي تطبق فيه Slack مبادئ الخصوصية الخاصة بالذكاء الاصطناعي، وبين الناس الذين يتفاجأون وينزعجون من فكرة إرسال بريد إلكتروني لإلغاء الاشتراك – في شركة تروج بشكل كبير لفكرة “التحكم في بياناتك” – Slack يفعل ذلك لا تؤتي ثمارها بشكل جيد.

قد تكون الصدمة جديدة، لكن الشروط ليست كذلك. وفقًا للصفحات الموجودة على أرشيف الإنترنت، فإن الشروط سارية منذ سبتمبر 2023 على الأقل. (لقد طلبنا من الشركة التأكيد).

وفقًا لسياسة الخصوصية، يستخدم Slack بيانات العملاء خصيصًا لتدريب “النماذج العالمية”، والتي يستخدمها Slack لتشغيل توصيات القنوات والرموز التعبيرية ونتائج البحث. يخبرنا Slack أن استخدامه للبيانات له حدود محددة.

“يحتوي Slack على نماذج للتعلم الآلي على مستوى النظام الأساسي لأشياء مثل توصيات القنوات والرموز التعبيرية ونتائج البحث. وقال متحدث باسم الشركة لـ TechCrunch: “نحن لا نبني أو ندرب هذه النماذج بطريقة تمكنهم من التعلم أو الحفظ أو القدرة على إعادة إنتاج جزء من بيانات العملاء”. ومع ذلك، لا يبدو أن السياسة تتناول النطاق العام والخطط الأوسع للشركة لتدريب نماذج الذكاء الاصطناعي.

من حيث شروطها، تقول Slack أنه إذا اختار العملاء عدم المشاركة في التدريب على البيانات، فسيظلون يستفيدون من “نماذج الذكاء الاصطناعي/التعلم الآلي المدربة عالميًا” الخاصة بالشركة. ولكن مرة أخرى، في هذه الحالة، ليس من الواضح سبب استخدام الشركة لبيانات العملاء في المقام الأول لتشغيل ميزات مثل توصيات الرموز التعبيرية.

وقالت الشركة أيضًا إنها لا تستخدم بيانات العملاء لتدريب Slack AI.

“Slack AI عبارة عن وظيفة إضافية يتم شراؤها بشكل منفصل وتستخدم نماذج لغوية كبيرة (LLMs) ولكنها لا تقوم بتدريب تلك LLMs على بيانات العميل. يستخدم Slack AI دورات LLM المستضافة مباشرة داخل البنية التحتية لـ AWS الخاصة بـ Slack، بحيث تظل بيانات العميل داخل الشركة ولا تتم مشاركتها مع أي مزود LLM. وقال متحدث باسم الشركة إن هذا يضمن بقاء بيانات العميل تحت سيطرة تلك المؤسسة لاستخدامها حصريًا.

ومن المرجح أن تتم معالجة بعض الالتباس عاجلاً وليس آجلاً. في رد على أحد التعليقات النقدية حول Threads من المهندس والكاتب Gergely Orosz، أقر مهندس Slack Aaron Maurer بأن الشركة بحاجة إلى تحديث الصفحة لتعكس “كيفية لعب مبادئ الخصوصية هذه مع Slack AI”.

وأضاف مورير أن هذه المصطلحات تمت كتابتها في الوقت الذي لم يكن لدى الشركة فيه Slack AI، وتعكس هذه القواعد عمل الشركة فيما يتعلق بالبحث والتوصيات. سيكون من المفيد دراسة شروط التحديثات المستقبلية، نظرًا للارتباك حول ما يفعله Slack حاليًا باستخدام الذكاء الاصطناعي الخاص به.

تعد المشكلات في Slack بمثابة تذكير صارخ بأنه في عالم تطوير الذكاء الاصطناعي سريع الحركة، لا ينبغي أن تكون خصوصية المستخدم فكرة لاحقة، ويجب أن توضح شروط خدمة الشركة بوضوح كيف ومتى يتم استخدام البيانات أو إذا لم يتم استخدامها.

هل لديك نصيحة إخبارية؟ تواصل مع Ingrid بشكل آمن على Signal عبر ingrid.101 أو هنا. (لا داعي للعلاقات العامة، من فضلك.)

نحن نطلق نشرة إخبارية تعتمد على الذكاء الاصطناعي! اشتراك هنا لبدء استلامها في صناديق البريد الوارد الخاصة بك في 5 يونيو.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى