یک محقق محترم گوگل گفت که وی پس از انتقاد از رویکرد شرکت در استخدام اقلیت ها و تعصبات موجود در سیستم های هوش مصنوعی امروزی ، توسط این شرکت اخراج شد.

تیمنیت گبرو ، که یکی از رهبران تیم AI هوش اخلاقی گوگل بود ، روز چهارشنبه در توییتی گفت که به دلیل ایمیلی که یک روز قبل برای گروهی که شامل کارمندان شرکت بود ، اخراج شده است.

وی در نامه الکترونیکی که توسط نیویورک تایمز بررسی شد ، ابراز ناراحتی نسبت به پاسخ گوگل به تلاش های او و سایر کارمندان برای افزایش استخدام اقلیت ها و جلب توجه به تعصب در هوش مصنوعی کرد.

“زندگی شما هنگامی شروع به بدتر شدن می کند که شروع به دفاع از افراد کم نماینده کنید. شما شروع به ناراحتی رهبران دیگر می کنید. » “به هیچ وجه اسناد یا مکالمات بیشتر به نتیجه ای نمی رسند.”

جدایی وی از گوگل تنش فزاینده ای را بین نیروی کار صریح گوگل و مدیریت ارشد دکمه دار آن برجسته می کند ، در حالی که نگرانی از تلاش های این شرکت برای ساخت یک فناوری منصفانه و قابل اعتماد را افزایش می دهد. همچنین ممکن است بر روی کارگران فناوری Black و محققانی که در سال های اخیر دانشگاه را به دلیل مشاغل پردرآمد در دره سیلیکون ترک کرده اند ، اثر مهیب داشته باشد.

موتال نکوند ، عضو آزمایشگاه جامعه مدنی دیجیتال استنفورد ، گفت: “اخراج وی فقط نشان دهنده این است که دانشمندان ، فعالان و دانش پژوهانی که می خواهند در این زمینه کار کنند – و زنان سیاه پوستی هستند – در سیلیکون ولی استقبال نمی کنند.” “بسیار ناامید کننده است.”

سخنگوی گوگل از اظهار نظر در این باره خودداری کرد. در ایمیلی که برای کارمندان گوگل ارسال شده است ، جف دین ، ​​که بر کار هوش مصنوعی گوگل نظارت می کند ، از جمله گبرو و تیم او ، خروج او را “یک لحظه دشوار ، به ویژه با توجه به مباحث مهم تحقیقاتی که درگیر آن بود ، و عمق اهمیت ما می داند. تحقیقات هوش مصنوعی مسئول به عنوان یک سازمان و به عنوان یک شرکت. ”

پس از سالها فضای هرج و مرج ، جایی که کارمندان در جلسات سراسری شرکت ها و تابلوهای پیام آنلاین مشغول بحث آزادانه بودند ، گوگل شروع به سرکوب گفتمان های محل کار کرد. بسیاری از کارمندان Google با محدودیت های جدید آشنا شده و استدلال می کنند که این شرکت از سنت شفافیت و بحث آزاد خارج شده است.

روز چهارشنبه ، شورای روابط کار ملی گفت که گوگل هنگام اخراج دو کارمندی که در سازماندهی کار مشارکت داشتند ، به احتمال زیاد قانون کار را نقض کرده است. آژانس فدرال گفت که گوگل قبل از اخراج کارمندان ، آنها را به طور غیرقانونی بررسی کرده است.

نبردهای گوگل با کارگرانش ، که در سال های اخیر در مورد نحوه آزار و اذیت جنسی این شرکت و کار با وزارت دفاع و آژانس های مرزی فدرال صحبت کرده اند ، از اعتبار آن به عنوان مدینه فاضله برای کارگران فناوری با حقوق سخاوتمندانه ، مزایا و آزادی کار کاسته است. .

مانند سایر شرکت های فناوری ، گوگل نیز با انتقاداتی روبرو شده است که به دلیل عدم تلاش کافی برای رفع کمبود زنان و اقلیت های نژادی در میان صفوف خود ، اقدام کافی نکرده است.

مشکلات نابرابری نژادی ، به ویژه بدرفتاری با کارمندان سیاه پوست در شرکت های فناوری ، سالهاست که دره سیلیکون را آزار می دهد. Coinbase ، با ارزش ترین استارت آپ ارزهای رمزنگاری شده ، در دو سال گذشته مهاجرت کارمندان سیاهپوست را به دلیل آنچه نژاد پرستانه و تبعیض آمیز گفته است ، تجربه کرده است.

محققان نگرانند افرادی که در حال ساخت سیستم های هوش مصنوعی هستند ممکن است تعصبات خود را در این فناوری ایجاد کنند. طی چندین سال گذشته ، چندین آزمایش عمومی نشان داده است که این سیستم ها اغلب با افراد رنگین پوست تعامل متفاوتی دارند – شاید به این دلیل است که در بین توسعه دهندگانی که این سیستم ها را ایجاد می کنند ، کمتر از دیگران نمایش داده می شوند.

گبرو 37 ساله در اتیوپی متولد و بزرگ شده است. در سال 2018 ، وی در حالی که یک محقق در دانشگاه استنفورد بود ، به نوشتن مقاله ای کمک کرد که به عنوان نقطه عطفی در تلاش برای تعیین دقیق و حذف تعصب در هوش مصنوعی دیده می شود. او بعداً در همان سال به گوگل پیوست و به ساخت تیم هوش مصنوعی کمک کرد.

پس از استخدام محققانی مانند Gebru ، Google خود را به عنوان شرکتی اختصاص داده است که به هوش مصنوعی “اخلاقی” اختصاص دارد. اما غالباً اذعان نمی کند که اشکالات موجود در سیستم های خود را به صورت عمومی اعلام کند.

در مصاحبه ای با تایمز ، گبرو اظهار داشت كه دلسردی وی ناشی از برخورد این شركت با یك مقاله تحقیقی است كه وی با شش محقق دیگر نوشته بود ، چهار نفر از آنها در Google. در این مقاله که توسط تایمز نیز مورد بررسی قرار گرفت ، اشکالاتی در نژاد جدید فن آوری زبان مشخص شد ، از جمله سیستمی که توسط گوگل ساخته شده و موتور جستجوی شرکت را پشتیبانی می کند.

این سیستم ها با تجزیه و تحلیل مقادیر زیادی از متن ، از جمله هزاران کتاب ، مدخل های ویکی پدیا و سایر اسناد آنلاین ، مبهم بودن زبان را یاد می گیرند. از آنجا که این متن شامل زبانی مغرضانه و بعضاً نفرت انگیز است ، ممکن است در پایان این فناوری زبانی مغرضانه و متنفر ایجاد کند.

گبرو گفت ، پس از آنكه وی و سایر محققان مقاله را به یك كنفرانس دانشگاهی ارسال كردند ، یك مدیر گوگل خواست كه یا مقاله را از كنفرانس پس بگیرد یا نام خود و سایر كارمندان Google را حذف كند. وی بدون بحث بیشتر از این کار امتناع ورزید و در ایمیلی که روز سه شنبه ارسال شد ، گفت اگر شرکت نتواند توضیح دهد که چرا می خواهد مقاله را پس بگیرد و به سایر نگرانی ها پاسخ دهد ، پس از مدت زمان مناسب استعفا می دهد.

وی گفت ، این شرکت به ایمیل او پاسخ داد و گفت که نمی تواند خواسته های او را برآورده کند و استعفای وی بلافاصله پذیرفته شد. دسترسی وی به ایمیل شرکت و سایر خدمات بلافاصله لغو شد.

دین در یادداشت خود به کارمندان گفت که گوگل به “تصمیم او برای استعفا” احترام می گذارد. دین همچنین گفت كه این مقاله تحقیقات اخیر را كه نشانگر روشهای كاهش سوگیری در چنین سیستمهایی است ، تأیید نمی كند.

گبرو گفت: “این غیرانسانی بود.” “آنها ممکن است دلایلی برای خاموش کردن تحقیقات ما داشته باشند. اما آنچه بیش از همه ناراحت کننده است این است که آنها از بحث درباره علت خودداری می کنند. ”

جدایی گبرو از گوگل در حالی صورت می گیرد که فناوری هوش مصنوعی تقریباً در هر جنبه از تجارت Google نقش بیشتری دارد. این شرکت آینده خود را به هوش مصنوعی – چه با دستیار دیجیتالی مجهز به صدا و یا با تبلیغات خود برای تبلیغات بازاریابان – به عنوان دستیابی به موفقیت در هوشمند سازی و توانایی نسل بعدی خدمات و دستگاه ها ، به دست آورده است.

Sundar Pichai ، مدیر اجرایی Alphabet ، شرکت مادر گوگل ، ظهور هوش مصنوعی را با برق یا آتش سوزی مقایسه کرده و گفته است که این امر برای آینده شرکت و محاسبات ضروری است. در اوایل سال جاری ، پیچای خواستار تنظیم بیشتر و مدیریت مسئولانه هوش مصنوعی شد و اظهار داشت که جامعه باید آسیب های احتمالی را با فرصت های جدید متعادل کند.

گوگل بارها و بارها متعهد به حذف سوگیری در سیستم های خود شده است. گبرو گفت ، این مشكل این است كه بیشتر افرادی كه تصمیم نهایی را می گیرند مرد هستند. وی گفت: “آنها نه تنها در اولویت بندی استخدام افراد بیشتر از جوامع اقلیت نیستند ، بلكه صدای آنها را لك می كنند.”

جولین کورنبیز ، دانشیار افتخاری دانشگاه کالج لندن و محقق سابق DeepMind ، یک آزمایشگاه برجسته هوش مصنوعی متعلق به همان شرکت مادر با گوگل ، در میان بسیاری از محققان هوش مصنوعی بود که گفت: خروج گبرو نشان دهنده یک مشکل بزرگ در صنعت است.

وی گفت: “این نشان می دهد كه چگونه برخی از شركتهای بزرگ فناوری فقط از اخلاق و انصاف و سایر اهداف هوش مصنوعی برای اهداف اجتماعی حمایت می كنند به شرطی كه تأثیر روابط عمومی مثبت آنها بیشتر از بررسی های بیشتری باشد.” “تیمنیت یک محقق درخشان است. ما در زمینه کاری خود بیشتر به او شباهت داریم. ”