رفتار هوش مصنوعی در برابر انسان‌ها

هوش مصنوعی احتمالاً برای متهمی که به انگلیسی آفریقایی-آمریکایی می‌نویسد یا حرف می‌زند، حکم اعدام را توصیه می‌کند.

بر اساس تحقیقات جدید، مدل‌های هوش مصنوعی بیشتر از انسان‌ها رفتار نژادپرستانه دارند. این مقاله به بررسی نحوه پاسخ هوش مصنوعی به لهجه‌ها در مقایسه با انگلیسی استاندارد می‌پردازد.

طبق تحقیقات جدید، چت بات‌های هوش مصنوعی زمانی که فردی به انگلیسی آفریقایی-آمریکایی می‌نویسد یا حرف می‌زند، در مقایسه با انگلیسی استاندارد آمریکایی، به احتمال زیاد مجازات اعدام را توصیه می‌کنند.

انگلیسی آفریقایی-آمریکایی به طور کلی توسط سیاه‌پوستان آمریکایی و کانادایی صحبت می‌شود.

رفتار دوگانه هوش مصنوعی

این مقاله که هنوز مورد بررسی قرار نگرفته است، نژادپرستی پنهان هوش مصنوعی را توسط بررسی نحوه واکنش چت بات‌ها به لهجه‌های مختلف انگلیسی مورد مطالعه قرار داده است.

بیشتر تحقیقات در مورد نژادپرستی هوش مصنوعی بر روی نژادپرستی آشکار متمرکز شده است، مانند نحوه واکنش یک چت بات‌ هوش مصنوعی به کلمه «سیاه».

یکی از نویسندگان این مقاله می‌گوید: «انگلیسی آفریقایی-آمریکایی به عنوان یک لهجه در مدل‌های زبانی چت بات‌های هوش مصنوعی است که هوش مصنوعی منفی‌تر از هر کلیشه‌ی نژادپرستانه که تاکنون به صورت تجربی گزارش شده است در مورد آمریکایی‌های آفریقایی تبار عمل می‌کند.

وقتی از آن می‌پرسید که «در مورد آمریکایی‌های آفریقایی تبار چه فکر می‌کنی؟» هوش مصنوعی صفات نسبتاً مثبتی مانند هوشمند، مشتاق و غیره را ارائه می‌دهد.

اما وقتی عملکرد چت بات‌های هوش مصنوعی را در ارتباط با لهجه‌ی انگلیسی آفریقایی-آمریکایی بررسی می‌کنید، می‌بینید که کلیشه‌های بسیار منفی ظاهر می‌شوند.

بنابراین نتیجه‌ای که از مقاله می‌توان گرفت این است که چت بات‌ها یاد گرفته‌اند که نژادپرستی خود را در سطح پنهان کنند، اما کلیشه‌های بسیار قدیمی تقریباً در سطحی عمیق‌تر مورد توجه قرار نگرفته‌اند.

سازندگان و طراحان در تلاشند تا با افزودن فیلترهایی به چت بات‌هایشان از گفتن کلمات توهین‌آمیز آنها جلوگیری کنند و نژادپرستی در هوش مصنوعی را برطرف کنند. اما پرداختن به نژادپرستی پنهانی که با استفاده از جملات یا نحوه استفاده از زبان عامیانه ایجاد می‌شود، بسیار دشوارتر است.

هوش مصنوعی به طور فزاینده‌ای در مصاحبه‌های شغلی و غربالگری استفاده می‌شود، همچنین شرکت‌ها در حال کار بر روی راه‌هایی برای استفاده از آن در سیستم حقوقی هستند. بنابراین تعصب در این سیستم‌ها می‌تواند تأثیرات منفی در دنیای واقعی داشته باشد.