8 مشکل بزرگ هوش مصنوعی Open AI

 

هوش مصنوعی یک چت ربات قدرتمند هوش است که افراد به سرعت تحت تاثیر آن قرار می‌گیرند، با این حال بسیاری از مردم به این موضوع اشاره کرده‌اند که مشکلات جدی دارد؛ از نقض‌های امنیتی و نگرانی‌های مربوط به حریم خصوصی گرفته تا داده‌های فاش نشده که روی آن آموزش داده شده است ، با این حال این فناوری در حال حاضر در تک تک برنامه‌ها گنجانده شده و توسط میلیون‌ها کاربر، از دانش‌آموز تا کارمند شرکت، استفاده می‌شود.

پس با توجه ب به مطالب فوق و بدون هیچ نشانه ای از کاهش سرعت توسعه هوش مصنوعی، درک مشکلات مربوط به هوش مصنوعی حتی مهم تر است؛ به همین دلیل تصمیم گرفته ایم در ادامه در ارتباط با مشکلاتی که هوش مصنوعی برای ما ایجاد میکند؛ صحبت کنیم.

هوش مصنوعی چیست؟

پیش از انجام هر کار دیگر لازم هست تا حدودی با هوش مصنوعی آشنا شوید؛ باید بگوییم هوش مصنوعی یک مدل زبان بزرگ است که برای تولید زبان طبیعی انسان طراحی شده است؛ به طوری که چت کردن با هوش مصنوعی دقیقاً مانند مکالمه با یک نفر خواهد بود و شما می توانید با هوش مصنوعی صحبت کنید؛ او چیزهایی را که در گذشته گفته اید را به خاطر می آورد و در عین حال می تواند در صورت به چالش کشیده شدن، خودش و حرف هایش را اصلاح کند.

مسئله  جالب در ارتباط با هوش مصنوعی این هست که در مورد انواع متن از اینترنت، شامل  ویکی‌پدیا، پست‌های وبلاگ، کتاب‌ها و مقالات دانشگاهی آموزش داده شده است. و میتواند  در کنار پاسخگویی به شما به روشی شبیه به انسان، اطلاعاتی را درباره دنیای امروزی ما به یاد بیاورد و اطلاعات تاریخی از گذشته ما را نیز جمع‌آوری کند؛ که این ویژگس باعث شده هوش مصنوعی تا این حد متداول شود.

یادگیری نحوه استفاده از هوش مصنوعی ساده است؛ اما با این حال، در ماه‌های پس از انتشار، مشکلات کلیدی در مورد حریم خصوصی، امنیت و تأثیر گسترده‌تر آن بر زندگی مردم، از شغل گرفته تا آموزش، پدیدار شد؛ که در ارتباط با آن ها صحبت خواهیم کرد.

1. تهدیدات امنیتی و نگرانی های حفظ حریم خصوصی

در مارس 2023، این نقض امنیتی به این معنی بود که برخی از کاربران در هوش مصنوعی عناوین از گفتگو را در نوار کناری مشاهده کرده اند که متعلق به آنها نبوده؛ که اشتراک‌گذاری تصادفی تاریخچه چت کاربران یک نگرانی جدی برای هر شرکت فناوری است، اما با توجه به تعداد افرادی که از چت‌بات محبوب استفاده می‌کنند، برای شرکت تولید کننده هوش مصنوعی تنها یک نگرانی کوچک محسوب میشود(اشاره به این که تعداد زیادی از افراد از ربات هوش مصنوعی استفاده میکنند)

همانطور که رویترز گزارش داده است، هوش مصنوعی تنها در ژانویه 2023 ماهانه 100 میلیون کاربر فعال داشته است. در حالی که اشکالی که باعث نقض شد به سرعت برطرف شد؛ اما باز هم نمیتوان از آن چشم پوشی کرد.

سازمان دیده بان این مسئله مشکوک بود که قوانین حریم خصوصی اروپا نقض شده است؛ پس بعد از اتفاق افتادن این مسئله به بررسی های بیشتر پرداخت و درخواست کرد که Open AI چندین درخواست برای بازگرداندن ربات چت را برآورده کند.

Open AI در نهایت با ایجاد چندین تغییر مهم این مشکل را با تنظیم کننده ها حل کرد. برای شروع، یک محدودیت سنی برای استفاده از هوش مصنوعی  اضافه شد که استفاده از برنامه را به افراد بالای 18 یا 13 سال با اجازه سرپرست محدود می‌کند. همچنین این شرکت خط‌مشی رازداری خود را قابل مشاهده‌تر کرد و فرم انصراف Google را برای کاربران فراهم کرد تا داده‌های خود را از آموزش هوش مصنوعی حذف کنند و در صورت تمایل آن را به طور کامل نیز از بین ببرند؛ که در ارتباط با آن ها باید بگوییم این تغییرات یک شروع عالی هستند، اما بهبودها باید به همه کاربران هوش مصنوعی تعمیم داده شود.

این تنها راهی نیست که هوش مصنوعی یک تهدید امنیتی نیز ایجاد می کند. اشتراک گذاری تصادفی اطلاعات محرمانه به عنوان یک کاربر کار آسان است و برای انجام نشدن آن باید تدابیر سخت گیرانه تری اجرا شود؛ یک مثال خوب از این مسئله نیز  این است که چگونه کارمندان سامسونگ چندین بار اطلاعات شرکت را با هوش مصنوعی به اشتراک گذاشتند.

2. نگرانی در مورد آموزش هوش مصنوعی و مسائل مربوط به حریم خصوصی

پس از راه‌اندازی گسترده هوش مصنوعی، بسیاری از مردم این سوال را مطرح کردند که Open AI چگونه مدل خود را در وهله اول آموزش داده است.

حتی با تغییرات بهبود یافته در سیاست‌های حفظ حریم خصوصی Open AI پس از حادثه ای که در قسمت قبل توضیح دادیم و اتفاق افتاد، ممکن است رعایت مقررات حفاظت از داده‌های عمومی (GDPR)، که تنها یک قانون حفاظت از داده‌ها که اروپا را پوشش می‌دهد، کافی نباشد. همانطور که Tech Crunch گزارش می دهد:

مشخص نیست که آیا داده‌های شخصی ایتالیایی‌ها(همان داده هایی که فاش شد) که برای آموزش مدل GPT آن به‌طور تاریخی استفاده می‌شد، با مبنای قانونی معتبر پردازش شده است یا در واقع، آیا داده‌هایی که قبلاً برای آموزش مدل‌ها از آن استفاده می‌شد، پردازش می‌شوند. یا اگر کاربران بخواهند داده های خود را اکنون حذف کنند، می توان آنها را حذف کرد یا خیر.

به عبارت دیگر بسیار محتمل است که Open AI هنگام آموزش هوش مصنوعی اطلاعات شخصی را جمع آوری کرده باشد. در حالی که قوانین در ایالات متحده کمتر قطعی است، قوانین داده اروپا همچنان از داده های شخصی افراد محافظت می کند، چه آنها این اطلاعات را به صورت عمومی یا خصوصی ارسال کرده باشند.

استدلال‌های مشابهی علیه داده‌های آموزشی توسط هنرمندانی مطرح می‌شود که می‌گویند هرگز با کار خود برای آموزش یک مدل هوش مصنوعی موافقت نکرده‌اند. در همان زمان، Getty Images از Stability.AI به دلیل استفاده از تصاویر دارای حق چاپ برای آموزش مدل های هوش مصنوعی شکایت کرد.در نهایت نیز باید بگوییم این گونه اتهامات وقتی برطرف میشود که Open AI داده های آموزشی خود را منتشر کند،  به عبارت دیگر فقدان شفافیت تشخیص اینکه آیا این کار به طور قانونی انجام شده است در حال حاضر دشوار است؛ به عنوان مثال، ما به سادگی نمی دانیم که چگونه هوش مصنوعی آموزش داده می شود، از چه داده هایی استفاده شده است، داده ها از کجا می آیند، یا معماری سیستم با جزئیات به نظر می رسد یا خیر.

3. هوش مصنوعی پاسخ های اشتباه ایجاد می کند

جالب هست بدانید؛ این ربات پیشرفته در برخی مسائل مانند، ریاضیات پایه شکست می خورد، به نظر نمی رسد به سؤالات منطقی ساده پاسخ دهد، و حتی تا آنجا پیش می رود که حقایق کاملاً نادرست را استدلال می کند. همانطور که مردم در سراسر رسانه های اجتماعی تأیید می کنند، هوش مصنوعی می تواند چندین بار اشتباه کند.

Open AI در مورد این محدودیت می‌داند و می‌نویسد: “هوش مصنوعی گاهی اوقات پاسخ‌هایی با صدای معقول اما نادرست یا بی‌معنی می‌نویسد.” این “توهم” واقعیت و داستان، همانطور که به آن اشاره شد، به ویژه در مورد مواردی مانند توصیه های پزشکی یا درست کردن حقایق در مورد رویدادهای تاریخی مهم خطرناک است.

خوب هست بدانید؛ هوش مصنوعی برخلاف سایر دستیاران هوش مصنوعی مانند سیری یا الکسا از اینترنت برای یافتن پاسخ ها استفاده نمی کند. در عوض، یک جمله را کلمه به کلمه می سازد و محتمل ترین پاسخ را که باید بر اساس آموزش آن قرار گیرد، انتخاب می کند. به عبارت دیگر، هوش مصنوعی با ایجاد یک سری حدس‌ها به یک پاسخ می‌رسد، که بخشی از این است که چرا می‌تواند پاسخ‌های اشتباه را طوری استدلال کند که گویی کاملاً درست هستند.

این در حالی است، که در توضیح مفاهیم پیچیده عالی است، و آن را به ابزاری قدرتمند برای یادگیری تبدیل می کند؛ پس در ارتباط با استفاده ار هوش مصنوعی مهم است که هر چیزی را که می گوید باور نکنید؛ زیرا این ابزار همیشه درست نیست؛ یا میتوان گفت حداقل هنوز درست نیست.

4. هوش مصنوعی دارای تعصب در سیستم خود است

هوش مصنوعی بر روی نوشته هایی از جمعی انسان ها در سراسر جهان، گذشته و حال آموزش دیده است. متأسفانه، این بدان معنی است که همان سوگیری هایی که در دنیای واقعی وجود دارد می تواند در هوش مصنوعی  نیز ظاهر شود؛ به عبارت دیگر نشان داده شده است که هوش مصنوعی پاسخ‌های وحشتناکی را ارائه می‌کند که علیه جنسیت، نژاد و گروه‌های اقلیت تبعیض قائل می‌شود، که این شرکت در تلاش است تا آن‌ها را کاهش دهد.

یکی از راه های توضیح این موضوع این است که به داده ها به عنوان مشکل اشاره کنیم و بشریت را به دلیل تعصبات تعبیه شده در اینترنت و فراتر از آن سرزنش کنیم. اما بخشی از مسئولیت نیز بر عهده Open AI است که محققان و توسعه دهندگان آن داده های مورد استفاده برای آموزش هوش مصنوعی را انتخاب می کنند.

برای بار دیگر جالب هست بدانید که کاملا مشابه مشکل قبلی، Open AI می‌داند که این یک مشکل است و گفته است که با جمع‌آوری بازخورد از کاربران و تشویق آنها به پرچم‌گذاری خروجی‌های هوش مصنوعی که بد، توهین‌آمیز یا به سادگی نادرست هستند، به «رفتار مغرضانه» رسیدگی می‌کند.

با احتمال آسیب رساندن به مردم، می توانید استدلال کنید که هوش مصنوعی نباید قبل از مطالعه و حل این مشکلات برای عموم منتشر می شد. اما رقابت برای اولین شرکتی که قدرتمندترین مدل هوش مصنوعی را ایجاد می کند، ممکن است برای Open AI کافی باشد تا احتیاط را به باد دهد؛ در مقابل، یک ربات چت هوش مصنوعی مشابه به نام اسپارو – متعلق به شرکت مادر گوگل، آلفابت – در سپتامبر 2022 منتشر شد. با این حال، به دلیل نگرانی های ایمنی مشابه، عمداً پشت درهای بسته نگه داشته شده اند.

تقریباً در همان زمان، فیس بوک یک مدل زبان هوش مصنوعی به نام Galactica را منتشر کرد که برای کمک به تحقیقات آکادمیک طراحی شده بود. با این حال، پس از اینکه بسیاری از مردم از آن به دلیل ارائه نتایج اشتباه و مغرضانه مرتبط با تحقیقات علمی انتقاد کردند، به سرعت فراخوانی شد.

5. هوش مصنوعی ممکن است مشاغل را از انسان بگیرد

پس از توسعه و استقرار سریع هوش مصنوعی در حالی که گرد و غبار تولید و توسعه آن هنوز پخش هست؛ برای از  فناوری زیربنایی در تعدادی از برنامه هایتجاری تغییر پیدا کرده اند. از جمله برنامه هایی که GPT-4 را یکپارچه کرده است، میتوان به Duolingol و Khan Academy اشاره کرد.

اولی یک برنامه یادگیری زبان است و دومی نیز یک ابزار آموزشی متنوع است. هر دو چیزی را ارائه می دهند که اساساً یک معلم هوش مصنوعی ارائه میدهد؛ یا به شکل یک شخصیت مبتنی بر هوش مصنوعی که می توانید به زبانی که در حال یادگیری با آن هستید صحبت کنید. یا به عنوان یک معلم AI که می تواند بازخورد مناسبی در مورد یادگیری شما به شما بدهد.

این می تواند تنها آغازی باشد که هوش مصنوعی مشاغل انسانی را حفظ می کند. در میان سایر مشاغل صنعتی که با اختلال مواجه هستند، می توان به حقوقدانان، وکلا، کپی رایترها، روزنامه نگاران و برنامه نویسان اشاره کرد؛ از یک طرف، هوش مصنوعی می‌تواند روش یادگیری ما را تغییر دهد و به طور بالقوه آموزش را در دسترس‌تر و فرآیند یادگیری را کمی آسان‌تر کند. اما از سوی دیگر، بخش عظیمی از مشاغل انسانی در همان زمان با از بین رفتن مواجه می شوند.

همانطور که گاردین گزارش داد، شرکت‌های آموزشی زیان‌های زیادی را در بورس لندن و نیویورک وارد کردند، که نشان می‌دهد اختلالی که هوش مصنوعی تنها شش ماه پس از راه‌اندازی هوش مصنوعی در برخی بازارها ایجاد می‌کند.

پیشرفت های فناوری همیشه منجر به از دست رفتن مشاغل شده است، اما سرعت پیشرفت های هوش مصنوعی به این معنی است که چندین صنعت به طور همزمان با تغییرات سریع روبرو می شوند؛ به عبارت دیگر باید گفت که نمی توان انکار کرد که هوش مصنوعی و فناوری زیربنایی آن قرار است دنیای مدرن ما را به شدت تغییر دهند.

6. هوش مصنوعی آموزش چالش برانگیز است

شما می‌توانید از هوش مصنوعی بخواهید نوشته‌های شما را تصحیح کند یا به نحوه بهبود یک پاراگراف اشاره کند. یا می توانید خود را به طور کامل از معادله حذف کنید و از هوش مصنوعی بخواهید که تمام نوشتن را برای شما انجام دهد؛ معلمان با دادن تکالیف انگلیسی به هوش مصنوعی آزمایش کرده‌اند و پاسخ‌هایی دریافت کرده‌اند که بهتر از آنچه بسیاری از دانش‌آموزانشان می‌توانستند انجام دهند. هوش مصنوعی از نوشتن نامه‌های پوششی گرفته تا توصیف موضوعات اصلی در یک اثر ادبی معروف، می‌تواند همه این کارها را بدون تردید انجام دهد.

اما در مقابل این سؤال پیش می‌آید که اگر هوش مصنوعی بتواند برای ما بنویسد، آیا دانش‌آموزان باید در آینده نوشتن را یاد بگیرند؟ ممکن است این یک سوال وجودی به نظر برسد، اما زمانی که دانش‌آموزان شروع به استفاده از هوش مصنوعی برای کمک به نوشتن مقاله‌های خود می‌کنند، مدارس باید سریع به یک پاسخ فکر کنند؛ باید ذکر شود که این مسئله  فقط موضوعات انگلیسی نیستند که در معرض خطر هستند. هوش مصنوعی می تواند به هر کاری که شامل طوفان فکری، خلاصه کردن، یا نتیجه گیری هوشمندانه باشد کمک کند.

جای تعجب نیست که دانش‌آموزان در حال حاضر آزمایش هوش مصنوعی را بر عهده گرفته‌اند. استنفورد دیلی گزارش می دهد که بررسی های اولیه نشان می دهد که تعداد قابل توجهی از دانش آموزان از هوش مصنوعی برای کمک به انجام تکالیف و امتحانات استفاده کرده اند. در پاسخ، برخی از مربیان در حال نوشتن مجدد دوره‌هایی هستند تا از دانش‌آموزانی که از هوش مصنوعی برای عبور از کلاس‌ها یا تقلب در امتحانات استفاده می‌کنند، پیشی بگیرند.

7. هوش مصنوعی می تواند باعث آسیب به دنیای واقعی شود

طولی نکشید که شخصی سعی کرد هوش مصنوعی را جیلبریک(منظور از جیبریلیک کردن شکستن سد ها و از بین بردن برخی از محدودیت ها دراین سیستم هست) کند و در نتیجه یک مدل هوش مصنوعی به وجود آمد که می توانست از گارد ریل Open AI عبور کند تا از تولید متن توهین آمیز و خطرناک جلوگیری کند؛گروهی از کاربران در گروه هوش مصنوعی Reddit نام مدل هوش مصنوعی نامحدود خود را Dan، مخفف «Do Anything Now» گذاشتند. متأسفانه، انجام هر کاری که دوست دارید باعث شده تا هکرها کلاهبرداری های آنلاین را افزایش دهند.  ArsTechnica همچنین گزارش می دهد که هکرها خدمات هوش مصنوعی بدون قانون را می فروشند که بدافزار ایجاد می کنند و ایمیل های فیشینگ تولید می کنند.

تلاش برای شناسایی یک ایمیل فیشینگ که برای استخراج جزئیات حساس از شما طراحی شده است، اکنون با متن تولید شده توسط هوش مصنوعی بسیار دشوارتر است. اشتباهات گرامری، که قبلاً علامت قرمز آشکاری بودند، وجود ندارند، زیرا هوش مصنوعی می‌تواند به روانی انواع متن، از مقاله گرفته تا شعر و ایمیل‌های مبهم بنویسد.

انتشار اطلاعات جعلی نیز یک نگرانی جدی است؛ مقیاسی که هوش مصنوعی می‌تواند متن تولید کند، همراه با توانایی ایجاد حتی اطلاعات نادرست به‌طور قانع‌کننده، همه چیز را در اینترنت مشکوک می‌کند و خطرات فناوری اطلاعات دروغین را تشدید می‌کند.

سرعتی که هوش مصنوعی می تواند اطلاعات تولید کند، قبلاً برای Stack Exchange، وب سایتی که به ارائه پاسخ های صحیح به سؤالات روزمره اختصاص دارد، مشکلاتی ایجاد کرده است. به زودی پس از انتشار هوش مصنوعی، کاربران سایت را با پاسخ هایی که از هوش مصنوعی درخواست کرده بودند پر کردند.

بدون داوطلبان انسانی کافی برای مرتب سازی مطالب عقب افتاده، حفظ سطح بالایی از پاسخ های با کیفیت غیرممکن خواهد بود. ناگفته نماند، بسیاری از پاسخ ها به سادگی صحیح نبودند. برای جلوگیری از آسیب دیدن وب‌سایت، تمام پاسخ‌هایی که با استفاده از هوش مصنوعی ایجاد شده‌اند ممنوع شد.

8. Open AI تمام قدرت را نگه می دارد

این شرکت هوش مصنوعی با قدرت زیاد، مسئولیت بزرگی به همراه دارد، و Open AI قدرت زیادی دارد. این یکی از اولین شرکت های هوش مصنوعی است که نه یک بلکه با چندین مدل هوش مصنوعی مولد، از جمله Dall-E 2، GPT-3 و GPT-4، واقعا دنیا را تکان داد.

به عنوان یک شرکت خصوصی، Open AI داده‌های مورد استفاده برای آموزش هوش مصنوعی را انتخاب می‌کند و انتخاب می‌کند که با چه سرعتی پیشرفت‌های جدید را ارائه کند. در نتیجه، کارشناسان زیادی وجود دارند که در مورد خطرات ناشی از هوش مصنوعی هشدار می‌دهند، اما نشانه‌ای از کند شدن اوضاع وجود ندارد.

برعکس، محبوبیت هوش مصنوعی رقابتی را بین شرکت‌های بزرگ فناوری که برای راه‌اندازی مدل بزرگ بعدی هوش مصنوعی رقابت می‌کنند، برانگیخته است. از جمله آنها می توان به هوش مصنوعی Bing مایکروسافت و Bard از گوگل اشاره کرد.

به همین دلیل با توجه به این مطالب؛ از ترس اینکه توسعه سریع منجر به مشکلات ایمنی جدی شود، نامه‌ای توسط رهبران فناوری در سراسر جهان نوشته شد که در آن درخواست تاخیر در توسعه داده شد.

در حالی که Open AI ایمنی را اولویت بالایی می‌داند، چیزهای زیادی در مورد نحوه عملکرد خود مدل‌ها، خوب یا بد، وجود دارد. در پایان روز، بسیاری از ما باید کورکورانه اعتماد کنیم که Open AI به طور مسئولانه در مورد هوش مصنوعی تحقیق، توسعه و استفاده خواهد کرد؛ چه با روش‌های آن موافق باشیم یا نه، لازم به یادآوری است که Open AI یک شرکت خصوصی است که به توسعه هوش مصنوعی مطابق با اهداف و استانداردهای اخلاقی خود ادامه خواهد داد.

مقابله با بزرگترین مشکلات هوش مصنوعی

همانطور که میدانید؛ با هوش مصنوعی چیزهای زیادی برای هیجان زده شدن وجود دارد، اما فراتر از کاربردهای فوری آن، مشکلات جدی نیز وجود دارد.Open Al اذعان می‌کند که هوش مصنوعی می‌تواند پاسخ‌های مضر و مغرضانه ایجاد کند، به این امید که با جمع‌آوری بازخورد کاربران، مشکل را کاهش دهد. اما توانایی آن در تولید متن قانع کننده، حتی زمانی که واقعیت ها درست نیستند، می تواند به راحتی توسط بازیگران بد استفاده شود.

نقض حریم خصوصی و امنیت قبلاً نشان داده است و همچنین در ارتباط با آن در ابتدای مقاله سخنانی به میان آمد که سیستم Open AI می تواند آسیب پذیر باشد و اطلاعات شخصی کاربران را در معرض خطر قرار دهد. علاوه بر این، مردم هوش مصنوعی را جیلبریک می کنند و از نسخه نامحدود برای تولید بدافزار و کلاهبرداری در مقیاسی استفاده می کنند که قبلاً ندیده ایم و میتواند مشکلات متعددتری را به وجود بیاورد؛ تهدیدهای شغلی و احتمال ایجاد اختلال در آموزش، چند مشکل دیگر هستند که در حال انباشته شدن هستند. با فناوری جدید، پیش‌بینی مشکلاتی که در آینده به وجود می‌آیند دشوار است، اما متأسفانه، لازم نیست خیلی دور نگاه کنیم. هوش مصنوعی سهم عادلانه ای از چالش ها را برای ما ایجاد کرده است که در حال حاضر باید با آنها مقابله کنیم و سعی کنیم از مزایای آن بهره ببریم.

منبع:

• https://www.makeuseof.com/openai-chatgpt-biggest-probelms