یادگیری ماشین

الگوریتم های یادگیری ماشین (ML) می توانند الگوها را به مراتب بهتر از انسانها تشخیص دهند. این موضوع به آنها امکان می دهد تا پیش بینی هایی را انجام دهند و در شرایط متنوع تصمیم گیری کنند. به عنوان مثال ، دانشمندان حوزه الکترونیک و برق از پیش بینی های IBM Watson برای پیش بینی نیاز مشتری استفاده می کنند ، سیستم خود رانندگی Uber نیز تعیین می کند چه مسیری مسافر را سریعتر به مقصد می رساند همچنین Insilico Medicine نیز از موتور کشف داروهای خود برای شناسایی داروهای جدید استفاده می کند.

از آنجا که سیستمهای یادگیری داده محور هر روزه در حال پیشرفت اند ، می توان موفقیت را با توجه به پیشرفتهای فنی تعریف کرد. با این حال ، برای اینکه سیستم های یادگیری ماشین واقعاً موفق باشند ، باید ارزش های انسانی را درک کنند. نکته مهم آن است که آنها باید بتوانند خواسته های ما را وزن کنند و بفهمند چه نتایجی برای ما مهم است  تا براساس آن عمل کنند.

درک ارزش ها

به منظور درک انواع تصمیمات اخلاقی که سیستم های یادگیری ماشین می گیرند ، کاج سوتالا محقق فنلاندی که برای موسسه تحقیقات بنیادی کار می کند ، به تحلیل ترافیک و اتومبیل های خودران پرداخته است.

یک سوال مهم ، بنظر شما بهتر است به خاطر پنج دقیقه صرفه جویی در زمان عوارض بدهیم و از مسیر کوتاه تری استفاده کنیم یا برای کاهش هزینه ها مسیر طولانی تری را طی کنیم ؟

پاسخ به این سؤال زیاد آسان نیست.

به عنوان مثال ، شخصی ممکن است ترجیح بدهد پنج هزارتومان عوارض بدهد ولی پنج دقیقه در زمان صرفه جویی کند. اما اگر هزینه عوارض ده هزارتومان باشد ، ممکن است مایل نباشد از عوارضی عبور کند. از طرف دیگر ، شخص دیگری همیشه ممکن است بدون توجه به قیمت ، کوتاهترین مسیر را طی کند ، زیرا او وقت خود را با ارزش تر از هر چیز دیگری می داند.

در این شرایط ، سوتالا خاطرنشان می کند که ما در نهایت از سیستم یادگیری ماشین می خواهیم تا تعیین کند که برای انسانها کدام ارزشمندتر است : زمان یا پول. در نتیجه یک مسئله به ظاهر ساده ، تبدیل به یک تحلیل پیچیده از ارزش های رقابتی می شود. ممکن است کسی فکر کند  خوب من اجازه خواهم داد که سیستم هوش مصنوعی بهترین راه برای انجام این کار را به من نشان دهد اما شخص دیگری ممکن است احساس کند که داشتن یک رویکرد متفاوت ارزش خاصی دارد.

درک مبتنی بر سودمندی و نفع

سوتالا ضمن ترکیب کردن ارزش ها این نکته را نیز خاطرنشان می کند که این مسئله به چگونگی تصمیم گیری عوامل هوشمند مربوط می شود. به عنوان مثال ، یک ترموستات نوعی ماده رفلکس است و می داند که چه موقع بخاطر یک درجه حرارت معین و مشخص شده از قبل شروع به کار کند . این ترموستات هنگام پایین آمدن از دمای معینی ، سیستم گرمایش را روشن می کند و هنگامی که بالاتر از دمای مشخصی می رود ، آن را خاموش می کند. از طرف دیگر ، عوامل مبتنی بر اهداف ، تصمیماتی را بر اساس دستیابی به اهداف خاص اتخاذ می کنند. به عنوان مثال ،  یک سیستم هوش مصنوعی که که هدفش خرید همه چیز در یک لیست خرید است ، جستجوی خود را تا زمان یافتن هر مورد ادامه می دهد.

این سیستم های مبتنی بر برنامه های اقتصادی ، یک قدم بالاتر از عوامل مبتنی بر هدف هستند.

در هر مرحله تصمیم گیری ، هوش مصنوعی تعدادی گزینه را انتخاب می کند. هر گزینه با یک ابزار یا پاداش خاص همراه است. این سیستم برای رسیدن به هدف خود طوری مسیر تصمیم گیری را انتخاب می کند که بیشترین پاداش را به دست آورد.

این سیستم ها و برنامه های کاربردی در یافتن الگوها و رسیدن به پاداش ها سرآمد اند با این حال  سوتالا ادعا می کند که عوامل فعلی مجموعه ای از اولویت ها را بر عهده دارند که کاملا جنبه مالی دارند و تنها منافع مالی را در نظر می گیرند. در نتیجه ، این روشها در هنگام ورود به سیستمهای AGI کافی نیستند و به همین دلیل به درک پیچیده تری از ارزش های انسان نیاز دارند.

به عنوان مثال ،شخصی ممکن است همیشه از مسیری طولانی تر برای عبور نکردن از اتوبان و صرفه جویی در هزینه ها استفاده کند ، اما در صورت ابتلای وی به حمله قلبی ، اورژانس و امدادرسانی به سادگی در دسترس نیست .  حال چگونه یک عامل هوش مصنوعی قرار است ارزش زمان و پول را پیش بینی و درک کند و دید بهتری از اوضاع در اختیار ما قرار دهد ؟

این مسئله پیچیده تر است زیرا ، همانطور که سوتالا بیان می کند ، انسان ها اغلب چیزهایی را مستقل از اینکه دارای پاداش های مداوم و ملموس باشند ، ارزیابی می کنند. بعضی اوقات انسانها حتی برای چیزهایی ارزش قائل می شوند که از بعضی جهات ممکن است باعث آسیب شود. شخصی را در نظر بگیرید که برای حفظ حریم خصوصی اش ارزش قائل است اما پزشک متخصص وی ممکن است به اطلاعات صمیمی و عمیقاً شخصی از او نیاز داشته باشد ، اطلاعاتی که ممکن است نجات بخش باشد. آیا هوش مصنوعی باید اطلاعات خصوصی را فاش کند یا نه ؟

سوتالا توضیح می دهد که این سیستم ها بسیار ساده هستند و به ریشه رفتار انسان نمی پردازند . در واقع آن ها به جای توصیف دلایل رفتار تنها خود رفتار را توصیف می کنند ، چرا که بیشتر یک مدل توصیفی هستند.

هوش مصنوعی یک ملکه می سازد

در بعضی از حوزه ها ، سیستم های هوش مصنوعی با کشف مدلهای جهان ، انسان را شگفت زده کرده اند. برای نمونه ، سوتالا تحقیقاتی را با عنوان “انتخاب واژه” انجام می دهد که در آن سیستم هوش مصنوعی وظیفه دارد جملات را به دو دسته معتبر یا نامعتبر طبقه بندی کند. برای انجام این کار ، سیستم روابط بین کلمات خاص را مشخص می کند . مثلا این سیستم قابلیت توجه به ابعاد مذکر و یا مونث بودن کلمات را دارد که این موضوع  به آن اجازه می دهد از کلمه “پادشاه” به کلمه “ملکه” و بالعکس برسد و هرکدام را در جای درست خود استفاده کند.

برای سیستم های هوش مصنوعی مزایای بسیاری وجود دارد. هوش مصنوعی قادر است به طور خودکار روش های بهتری برای نمایش داده ها را بیاموزد و از این طریق ، مدل هایی را تولید کند که مطابق با ارزش های انسان باشد.

هنگامی که انسانها نمی توانند نحوه نقشه برداری و متعاقباً الگوبرداری از مقادیر را تعیین کنند ،هوش مصنوعی می تواند الگوهای خود را شناسایی کرده و مدل های مناسبی را به خودی خود ایجاد کند.

باید توجه داشت که در کنار همه این مزایا ، هوش مصنوعی می تواند چیزی را بسازد که به نظر می رسد الگویی دقیق از ارتباطات و ارزشهای انسانی است ، اما در حقیقت یک سوء استفاده خطرناک به شمار می رود مانند فناوری deepfake

در نتیجه  ما نمی توانیم به توانایی یک عامل هوش مصنوعی برای کشف یک الگو و ایجاد یک مدل دقیق از ارزش های انسانی تکیه کنیم از این رو محققان باید بتوانند ارزشهای انسانی را الگوبرداری کنند و از آنها برای سیستمهای هوش مصنوعی دقیق استفاده کنند.