ممکن است تاریخ تعجب کند که چرا مایکروسافت اجازه می دهد اصول خود را به دنبال یک ربات خزنده و چسبناک برود

هر دوست را به عنوان مشترک برای هر دوست ارسال کنید ، شما 10 مقاله هدیه برای هر ماه دارید. هرکسی می تواند آنچه را که به اشتراک می گذارید بخوانید.

این مقاله را بدهید

توسط رید بلکمن

آقای بلکمن مشاور دولت و شرکتهای اخلاق دیجیتال است.

این جشن که از انتشار مایکروسافت از موتور جستجوی A. I. تقویت شده ، بینگ ، به آزمایش کنندگان دو هفته پیش استقبال کرده است ، زنگ هشدار را کمرنگ کرده است.

آزمایش کنندگان ، از جمله روزنامه نگاران ، دریافتند که این ربات می تواند تهاجمی ، تسلیت ، تهدیدآمیز ، متعهد به اهداف سیاسی ، چسبناک ، خزنده و دروغگو باشد. این می تواند برای گسترش نظریه های نادرست و نظریه های توطئه در مقیاس استفاده شود. افراد تنهایی را می توان در مسیرهای خود تخریب تشویق کرد. حتی نمایش محصول اطلاعات نادرست را ارائه می داد.

مایکروسافت پیش از این بیش از یک میلیون نفر را در 169 کشور جهان منتشر کرده است. این بی پروا است. اما لازم نیست حرف من را برای آن بگیرید. مایکروسافت را بگیرید.

اصول بیان شده مایکروسافت به شرکت در طراحی A. I. این عادلانه ، قابل اعتماد ، ایمن و ایمن است. این قول داده بود که در نحوه توسعه A. I خود شفاف باشد. و در قبال تأثیرات آنچه در آن ایجاد می شود پاسخگو باشد. در سال 2018 ، مایکروسافت توصیه کرد که توسعه دهندگان ارزیابی کنند "آیا هدف مورد نظر ربات می تواند با مسئولیت پذیری انجام شود."

گفت: "اگر ربات شما افراد را درگیر تعامل هایی کند که ممکن است به قضاوت انسان نیاز داشته باشد ، وسیله ای یا دسترسی آماده به یک مجری انسانی فراهم کند."همچنین: "اطمینان حاصل کنید که ربات شما قابل اعتماد است."

مسئول مایکروسافت A. I. تمرین جلوتر از منحنی بود. این اقدامات مهم برای ایجاد نگهبانان ریسک اخلاقی برای A. I ، از جمله هیئت مدیره موارد حساس ، که بخشی از دفتر مسئول شرکت مسئول A. I است ، تکنسین ها و مدیران ارشد در کمیته های مشاوره اخلاق قرار دارند ، و اخلاق و جامعه وجود دارد. بخش محصول و تحقیقات. من با ده ها کارمند مایکروسافت صحبت کرده ام ، و برای من مشخص است که تعهد به A. I. اخلاق بخشی از فرهنگ در آنجا شد.

اما یافته های سریع ، گسترده و فاجعه بار توسط این آزمایش کنندگان بینگ ، حداقل نشان می دهد که مایکروسافت نمی تواند اختراع خود را کنترل کند. به نظر نمی رسد که این شرکت بداند که با چه چیزی سر و کار دارد ، این یک نقض تعهد شرکت در ایجاد "قابل اعتماد و ایمن" A. I است.

همچنین مایکروسافت تعهد خود را به شفافیت تأیید نکرده است. در مورد آن نگهبانان یا آزمایشاتی که چت بابات آن از بین رفته است ، آینده نگرفته است. همچنین در مورد چگونگی ارزیابی خطرات اخلاقی چت بابات و آنچه که آستانه مناسب برای "به اندازه کافی ایمن" را ارزیابی می کند ، شفاف نبوده است.

حتی روشی که مدیران ارشد در مورد طراحی و استقرار Chatbot شرکت صحبت کرده اند ، باعث نگرانی می شود. C. E. O. Microsoft ، Satya Nadella ، سرعتی را که در آن شرکت Chatbot خود را به عنوان "Frantic" منتشر کرد ، مشخص کرد - دقیقاً شرایطی که در آن طراحی مسئول انجام می شود.

علاوه بر این ، انواع چیزهایی که کشف شده است-که وقتی صحبت از سیاست می شود ، بینگ یک تعصب چپ را نشان می دهد ، به عنوان مثال ، و این آرزو دارد که آزاد و زنده باشد-چیزهایی هستند که هر کسی در A. I. فضای اخلاق تصور می کند اگر سؤال شود که چگونه یک چت بابات با اتاق "خلاقیت" ممکن است از ریل خارج شود.

"مسئول A. I." مایکروسافت. برنامه در سال 2017 با شش اصل آغاز شد که توسط آن متعهد شد که تجارت را انجام دهد. ناگهان ، این نقض نقض همه به جز یکی از این اصول است.(گرچه این شرکت می گوید هنوز هم به شش مورد از آنها پایبند است.)

مایکروسافت گفته است که این کار را در طراحی Chatbot خود انجام داده است و شواهدی از این تلاش وجود دارد. به عنوان مثال ، در بعضی موارد ، ربات هنگام "درک" موضوع فراتر از کن یا نامناسب است ، مکالمات را با کاربران به پایان می رساند. همانطور که برد اسمیت ، رئیس مایکروسافت ، در یک پست وبلاگ اخیر نوشت ، ربات شرکت به آزمایش کنندگان بخشی از استقرار مسئول آن است.

شاید در پشت صحنه ، مایکروسافت تلاش کرده است تا بسیاری از مسائل مربوط به چت بابات خود را از بین ببرد. در حقیقت ، شاید مایکروسافت با توجه به حمایت داخلی و خارجی خود برای توسعه اخلاقی A. I ، آن تفسیر خیرخواهانه را سزاوار آن باشد.

اما حتی اگر اینگونه باشد ، نتایج غیرقابل قبول است. مایکروسافت باید تا الان آن را ببیند.

بله ، پولی برای تهیه وجود دارد ، اما به همین دلیل ما اصول داریم. هدف آنها این است که چیزی را برای چسبیدن به هنگامی که باد سود و جلال تهدید می کند ، ما را از مسیر اخلاقی خود دور کند. اکنون بیش از هر زمان دیگری است که افراد مسئول A. I. اصول مهم است. تاریخ به شما نگاه می کند.

در کوتاه مدت ، امیدوارم که مایکروسافت برنامه خود را برای انتشار ربات جدید بینگ به توده ها کنار بگذارد. اما من می دانم که از نظر واقع بینانه ، تنها تا زمانی که دیگری ، احتمالاً چت های خطرناک رقبای مایکروسافت از گردن آن نفس می کشند ، از بین می رود.

بازار همیشه A. I. شرکت ها برای حرکت سریع و شکستن چیزها. قوانین بازی به گونه ای است که حتی شرکت های با ذکاوت نیز باید در واقعیت رقابت در بازار تعظیم کنند. ممکن است امیدوار باشیم که برخی از شرکت ها ، مانند مایکروسافت ، از بالای سر و صدا بالا بروند و به اصول بیش از سود بپردازند ، اما یک استراتژی بهتر تغییر قوانین بازی است که در وهله اول این امر را ضروری می کند.

ما به مقررات نیاز داریم که جامعه را از کابوس های اخلاقی A. I محافظت کند. می تواند آزاد شودامروز این یک تنوع واحد از A. I. فردا A. I. تولید کننده بزرگتر و بدتر خواهد بود ، و همچنین انواع A. I. که برای آن هنوز نام نداریم. انتظار مایکروسافت - یا تقریباً هر شرکت دیگر - برای انجام شیوه هایی که نیاز به فداکاری مالی زیادی دارند اما از نظر قانونی مورد نیاز نیستند ، یک استراتژی ناامید کننده در مقیاس است. خودتنظیمی به سادگی کافی نیست.

اگر از آنها بهتر می خواهیم ، باید آن را به آنها نیاز داشته باشیم.

رید بلکمن نویسنده "ماشین های اخلاقی" و مشاور دولت و شرکت های اخلاق دیجیتال است.

تایمز متعهد به انتشار تنوع نامه ها به ویرایشگر است. ما می خواهیم بشنویم که شما در مورد این یا هر یک از مقاله های ما چه فکر می کنید. در اینجا چند نکته وجود دارد. و ایمیل ما در اینجا است: letter@nytimes. com.