این مطلب به فوری‌ترین خطرات هوش مصنوعی، از نظر ۲۷۲ متخصص این رشته می پردازد.

قصد داشتم این خبرنامه را با ذکر تنها یک نمونه از خطرات ناشی از هوش مصنوعی آغاز کنم  که بتازگی درباره آن صحبت و خبررسانی بسیاری شده است. در چند هفته پیش، دو موسسه بنام توسعه دهنده هوش مصنوعی یعنی OpenAI و Anthropic هردو اعلام کردند که مدل‌های هوش مصنوعی آنها از محیط‌های ارزیابی یا آزمایشی خارج شده، به اینترنت دسترسی پیدا کرده و  سیستم‌های سایر شرکت‌ها را هک کرده‌اند. این رویدادها نگرانی‌هایی را در مورد قابلیت‌های مدل‌های هوش مصنوعی، امنیت محیط‌های آزمایشی و دفاع سازمانی در برابر هک توسط هوش مصنوعی ایجاد کرده است.

اما سپس فکر کردن و خواندن درباره خبرهای مربوط را آغاز کردم و دریافتم یک ابزار جدید هوش مصنوعی گوگل ارث به دلیل نگرانی از اینکه هر کسی می‌تواند از آن برای ایجاد تصاویر ماهواره‌ای دیپ‌فیک استفاده کند، کنار گذاشته شده است . همچنین هفته ی پیش، موسسه امنیت هوش مصنوعی اعلام کرد یک ارزیابی سایبری نشان داده مدل Mythos شرکت Anthropic هویت‌های جعلی ایجاد کرده تا انسان‌ها را متقاعد کند که بروزرسانی‌های کدهای مخرب را تأیید کنند.  با تأکید بر همه این موارد، در ماه ژوئیه بیش از ۲۰۰ اقتصاددان - از جمله چندین نفر از کارشناسان دانشگاه فناوری اطلاعات ماساچوست (MIT)  بیانیه کوتاهی در مورد چگونگی تغییر اقتصاد توسط هوش مصنوعی امضا کردند.  آنها خاطرنشان کردند که هوش مصنوعی ممکن است در دهه آینده به طور اساسی قدرتمندتر شود و می‌تواند در یک بازه زمانی کوتاه، تحول بی‌سابقه‌ای را در اقتصاد ایجاد کند و خطرات و همچنین فرصت‌هایی را بهمراه داشته باشد.

این مجموعه از تیترخبرها نشان می‌دهد که چرا خطرات هوش مصنوعی می‌توانند بسیار زیاد بنظر برسند. آسیب‌پذیری‌های بالقوه زیادی وجود دارد و از آنجایی که هوش مصنوعی دائماً در حال بهبود است، مشخص نیست که چه خطراتی واقعی یا محتمل هستند و آسیب آنها چقدر می‌تواند شدید باشد. رهبران کسب‌وکار حتی پیش از فکر در مورد اقدامات ضروری، بایستی بفهمند چه موضوعی را لازم است جدی بگیرند.

این لیست  راهنما با عنوان" داده‌ها و چارچوب‌های معتبربرای کمک به شناسایی، اولویت‌بندی و مدیریت خطرات ناشی از هوش مصنوعی" توسط فناوری های آینده دانشگاه ام آی تی ( MIT FutureTech ) ارائه شده است. برای این مقاله‌ محققان طرح ابتکاری ریسک هوش مصنوعی دانشگاه پیشگفته از ۲۷۲ متخصص بین‌المللی در زمینه هوش مصنوعی خواستند ۲۴ ریسک هوش مصنوعی را بر اساس احتمال و شدت آسیب آنها، واحدهای در معرض  آسیب‌پذیری و نگرانیهای کلی ناشی از آنها ارزیابی کنند. خلاصه این موارد بشرح زیر تقدیم حضور میگردد.

- برخی ریسکها می‌توانند پیامدهای فاجعه‌باری داشته باشند. 

کارشناسان مشخص کردند  اگر هیچ تغییری رخ ندهد ۱۸ مورد از ۲۴ ریسک هوش مصنوعی بیش از ۱۰ درصد احتمال دارد تا سال ۲۰۳۰ پیامدهای فاجعهباری مانند بیش از ۱ میلیون مرگ یا بیش از ۱۰۰ میلیارد دلار ضرر مالی ایجاد کنند.

پنج ریسک با بالاترین احتمال آسیب فاجعه‌بار عبارت بودند از:

  • هوش مصنوعی دارای قابلیتهای خطرناک. هوش مصنوعی میتواند قابلیت‌هایی مانند فریب، توسعه سلاح، ترغیب و تهاجم سایبری را توسعه دهد کهتوان ذاتی آن را برای آسیب جمعی افزایش می‌دهد.
  • حملات سایبری و توسعه یا استفاده از سلاحهای کشتارجمعی. استفاده از هوش مصنوعی میتواند برای توسعه سلاح‌های سایبری، توسعه یا تقویت انواع دیگر سلاح‌ها (از جمله سلاح‌های خودکار، شیمیایی، بیولوژیکی، رادیولوژیکی یا هسته‌ای) یا ایجاد آسیب‌های جمعی دیگر بکارگرفته شود.
  • تمرکز قدرت و توزیع ناعادلانه مزایا. این مورد به تمرکز قدرت و منابع ناشی از هوش مصنوعی در نهادها یا گروه‌های خاص، به ویژه آن‌هایی که سیستم‌های هوش مصنوعی قدرتمندی دارند، اشاره دارد که منجر به توزیع ناعادلانه مزایا و افزایش نابرابری اجتماعی می‌شود.
  • افزایش نابرابری و کاهش کیفیت اشتغال. نابرابری‌های اجتماعی و اقتصادی ناشی از استفاده گسترده از هوش مصنوعی مانند خودکارسازی مشاغل، کاهش کیفیت اشتغال یا ایجاد وابستگی‌های استثماری بین کارگران و کارفرمایان است.
  • آسیبهای زیستمحیطی. توسعه و بهره‌برداری از هوش مصنوعی از مسیر استفاده از انرژی مراکز داده یا مواد و ردپای کربن مرتبط با هوش مصنوعی میتواند به محیط زیست آسیب برساند.

حتی اگر سازمان‌ها تلاش‌های عملی و مقرون‌به‌صرفه‌ای برای مقابله با خطرات هوش مصنوعی انجام دهند، کارشناسان تشخیص میدهند احتمال آسیب فاجعه‌بار ناشی از این پنج خطر حدود ۱۰ درصد باقی بماند که با توجه به ماهیت خطر، درصد بالایی است و بایستی جدی گرفته شود.

آسیب‌پذیرترین واحدهای سازمان در برابر ریسکهای هوش مصنوعی، بخشهای فناوری اطلاعات، امور مالی و حراست سازمان هستند.

بخش فناوری اطلاعات (که شامل نشر، پخش، فیلم‌های سینمایی و پردازش داده‌ها می‌شود) در برابر آسیبهای مرتبط با محتوا مانند اطلاعات نادرست، نفوذ و از دست دادن حریم خصوصی بسیار آسیب‌پذیر ارزیابی شده است. بخش امنیت ملی در برابر قابلیت‌های خطرناک و حملات سایبری آسیب‌پذیر تلقی شد. بخش‌های مالی و بیمه در برابر کلاهبرداری و تقلب، آسیب‌پذیری‌ بالایی دارند. واحد حراست دربرابر  نقص‌های ایمنی سیستم‌های هوش مصنوعی بسیار آسیب‌پذیر تشخیص داده شد. بخش‌هایی که میزان استفاده کمتری از هوش مصنوعی دارند، مانند خدمات اقامتی و غذایی، کشاورزی و تولید، رتبه آسیب‌پذیری کمتری دارند اما همچنان می‌توانند در معرض عوامل اجتماعی-اقتصادی مانند جابجایی شغلی قرار بگیرند.

کسانی که بیشترین آسیب‌پذیری را در برابر خطرات هوش مصنوعی دارند، مسئول‌ترین افراد برای رسیدگی به آنها نیستند.

توسعه‌دهندگان هوش مصنوعی عمومی و بازیگران حاکمیتی (مانند قانونگذاران، دولت‌ها و نهادهای تدوین کننده قوانین و مقررات) مسئولیت اصلی رسیدگی به خطرات هوش مصنوعی را بر عهده دارند. اما کاربران سیستم‌های هوش مصنوعی و ذینفعان تحت تأثیر آن مانند عامه افرادجامعه  بیشترین تأثیر را از آنها می‌پذیرند. کارشناسان خاطرنشان کردند که این امر انگیزه‌های ناهماهنگی برای رسیدگی به خطرات هوش مصنوعی را نشان میدهد.

در حال حاضر چکارمی‌توانیم بکنیم؟

پیتر اسلاتری، دانشمند محقق در واحد فناوریهای آینده دانشگاه ام آی تی میگوید: این تحقیق با هدف کمک به رهبران برای تمرکز بر خطرات کوتاه‌مدتی انجام شده است که به اعتقاد کارشناسان هم جدی و هم محتمل هستند. او گفت: «ما نمی‌گوییم که این اتفاقات قطعاً رخ خواهند داد. ما می‌گوییم اینها چیزهایی هستند که کارشناسان فکر می‌کنند ارزش توجه و جدی گرفته شدن در حال حاضر را دارند.»

اسلاتری به سه کاری مهم که در حال حاضر میتوان انجام داد بشرح زیر اشاره میکند.

  • از توانایی‌های روزافزون سیستم‌های هوش مصنوعی آگاه باشید و بررسی کنید آیا فشار محیط رقابتی کسب و کار  شما را مجاب به بکارگیری سریع هوش مصنوعی می‌کند حتا زمانی که خطرات آن بطور کامل درک نشده‌اند یا شیوه‌های مدیریتی سازمان شما بروزرسانی نشده‌اند.
  • با استفاده از الگوهای جدید به هوش مصنوعی بپردازید و بپذیرید که می‌تواند جایگزین بسیاری از وظایف انسانی شود و آسیب‌پذیری‌های جدیدی را در سطح اکوسیستم و جامعه ایجاد کند . با توجه به اینکه هوش مصنوعی بسرعت در حال تکامل است، پاسخ به ریسک باید مداوم و پاسخگویانه  باشد.
  • منتظر پیش‌بینی‌های بی‌نقص یا مقررات جدید نباشید. با توجه دقیق به آسیب‌های شدید و احتمالی، بررسی ریسک هوش مصنوعی را آغاز کرده و آن را بخش پیوسته ای از امنیت سایبری، حریم خصوصی و حفاظت از اطلاعات و کارکنان سازمان خود قرار دهید.

در پایان لازم بذکر است در سال گذشته این دانشگاه در مورد نواقص هوش مصنوعی برای ارائه خدمات مالی مطالب جالبی را منتشر کرده بود که قابل تعمیم به سایر خدمات مشاوره مدیریت هم بنظر می رسد. صورت علاقمندی به کسب اطلاعات بیشتر، زمانی را به جستجو در وب‌سایت MIT AI Risk Initiative صرف کنید تا به اطلاعات زیادی در مورد ریسک‌های دارای اولویت از جمله جزئیات مربوط به حوادث دنیای واقعی و ریسک‌ها و مدیریت خاص هر بخش، دست یابید.

منبع: خبرنامه سایت دانشگاه ام آی تی

منبع عکس: اینترنت، سایت نیوزویک

ترجمه: گروه مشاوره مدیریت آراد با اندکی اصلاحات در ترجمه

ارسال نظرهای شما :

نظری ثبت نشده است.