به نقل از «آنا»

کاهش خطرات هوش مصنوعی باید یک اولویت جهانی باشد

تاریخ انتشار: ۲۴ خرداد ۱۴۰۲ | کد خبر: ۳۷۹۸۴۹۸۱

به گزارش خبرنگار خبرگزاری علم و فناوری آنا به نقل از الجزیره، مرکز ایمنی هوش مصنوعی به تازگی هشداری عمومی را درباره خطراتی که هوش مصنوعی برای بشریت ایجاد می‌کند، منتشر کرد. در این بیانیه که از سوی بیش از ۳۵۰ دانشمند، مدیران تجاری و شخصیت‌های عمومی امضا شده است، آمده است که «کاهش خطر هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند بیماری‌های همه‎گیر و جنگ هسته‌ای یک اولویت جهانی باشد.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

»

برخی از امضاکنندگان همچون مدیران گوگل دیپ‌مایند و اپن‌آی که در مورد پایان تمدن بشری هشدار می‌دهند، شرکت‌هایی را نماینده می‌دانند که مسئول ایجاد این فناوری هستند. این شرکت‌ها قدرت آن را دارند که مطمئن شوند هوش مصنوعی واقعا برای بشریت مفید است یا حداقل آسیبی به آن وارد نمی‌کند. این شرکت‌ها باید به توصیه‌های جامعه حقوق بشر توجه کنند و هرچه سریع‌تر چارچوبی را لحاظ کنند که اثرات منفی بالقوه محصولات خود را شناسایی، پیشگیری و کاهش دهند.

دانشمندان مدت‌ها است در مورد خطرات هوش مصنوعی مولد هشدار داده‌اند، اما تا زمان انتشار ابزار‌های جدید هوش مصنوعی، بخش بزرگی از مردم متوجه پیامد‌های منفی آن نشدند.

هوش مصنوعی مولد یک اصطلاح گسترده است که الگوریتم‌های خلاقانه‌ای را توصیف می‌کند که خود می‌توانند محتوای جدیدی از جمله تصاویر، متن، صدا، ویدئو و حتی کد‌های رایانه‎ای تولید کنند؛ این الگوریتم‌ها بر روی مجموعه‌های داده عظیم آموزش داده می‌شوند، و سپس از آن آموزش برای ایجاد خروجی‌هایی استفاده می‌کنند که اغلب از داده‌های واقعی قابل تشخیص نیستند. تشخیص اینکه آیا محتوا از سوی یک شخص یا یک الگوریتم تولید شده، دشوار است.

ظهور ناگهانی ابزار‌های جدید هوش مصنوعی مولد بی سابقه بوده است. چت ربات «ChatGPT» (چت جی‌پی‌تی) توسعه یافته از سوی «OpenAI» (اپن‌آی) در مدت ۲ ماه توانست ۱۰۰ میلیون کاربر داشته باشد؛ این به مراتب بیشتر از رشد اولیه پلتفرم‌های محبوبی مانند تیک‌تاک است که ۹ ماه طول کشید تا به همان تعداد کاربر دسترسی پیدا کند.

در طول تاریخ، فناوری به پیشرفت حقوق بشر کمک کرده، اما آسیب‌هایی نیز به بار آورده است. هنگامی که ابزار‌های جستجوی اینترنتی، رسانه‌های اجتماعی و فناوری تلفن همراه برای نخستین بار توسعه یافتند، پیش‌بینی بسیاری از راه‌ها برای افزایش‌ نقض حقوق بشر در سراسر جهان، غیرممکن بود. 

جامعه حقوق بشر از شرکت‌هایی که محصولات هوش مصنوعی مولد را توسعه می‌دهند می‌خواهد که فوراً برای جلوگیری از هرگونه عواقب منفی برای حقوق بشر اقدام کنند؛ بنابراین رویکرد مبتنی بر حقوق بشر به هوش مصنوعی مولد چگونه ممکن است به نظر برسد؟ برای انجام مسئولیت خود در مورد احترام به حقوق بشر، آن‌ها باید فوراً چارچوب دقیق بررسی حقوق بشر را که در اصول راهنمای سازمان ملل در مورد تجارت و حقوق بشر آمده است، اجرا کنند.

این موضوع شامل بررسی‌های لازم، پیشگیرانه و مستمر برای شناسایی آسیب‌های واقعی، شفافیت در مورد این آسیب‌ها و کاهش و اصلاح در صورت لزوم است. شرکت‌هایی که این فناوری‌ها را توسعه می‌دهند، باید فعالانه با دانشگاهیان، فعالان و سازمان‌های اجتماعی، به‌ویژه نمایندگان جوامع سنتی که به حاشیه رانده شده‌اند، وارد تعامل شوند.

لازم به یاداوری است؛ تعامل فعال با جوامع به حاشیه رانده شده باید بخشی از طراحی محصول و فرآیند‌های توسعه سیاست باشد تا تأثیر بالقوه این ابزار‌های جدید بهتر درک شود. این کار را نمی‌توان پس از اینکه شرکت‌ها به آسیب‌ کمک کرده‌اند، انجام داد.

انتهای پیام/

منبع: آنا

کلیدواژه: هوش مصنوعی چت GPT حقوق بشر پلتفرم هوش مصنوعی مولد حقوق بشر شرکت ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۹۸۴۹۸۱ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

اپل با هوش مصنوعی به میدان می‌آید

 به گزارش تابناک،ایسنا نوشت: انتظار می‌رود آیپد پرو (iPad Pro) با نسل جدید تراشه‌های اپل یعنی M4 و مجهز به هوش مصنوعی وارد بازار شود.

به گفته مارک گورمن از بلومبرگ، آیپد پرو مورد انتظار که دارای نمایشگر OLED خواهد بود، ممکن است نه با تراشه جدید M3 که همه انتظارش را دارند، بلکه با نسل جدید تراشه‌های اپل یعنی M4 وارد بازار شود.

گورمن می‌گوید که شنیده است به احتمال قوی این اتفاق می‌افتد و آیپد پرو نخستین گام عملی ورود رسمی اپل به دنیای هوش مصنوعی خواهد بود.

گورمن نوشت: من معتقدم اپل این تبلت را به عنوان اولین دستگاه واقعاً مجهز به هوش مصنوعی خود عرضه خواهد کرد و از آن پس هر محصول جدید را به عنوان یک دستگاه هوش مصنوعی معرفی خواهد کرد.

انجام این کار برای رویداد 7 مه(۱۸ اردیبهشت)، زمینه را برای شرکت اپل فراهم می‌کند تا در کنفرانس جهانی توسعه‌دهندگان خود(WWDC) در ماه ژوئن، هوش مصنوعی را فراگیر کند.

کنفرانس جهانی توسعه‌دهندگان اپل(WWDC) کنفرانسی است که به شکل سالیانه در کالیفرنیا و توسط شرکت اپل برگزار می‌شود. این کنفرانس در ابتدا توسط اپل به منظور نمایش نرم‌افزارها و فناوری‌ها به توسعه‌دهندگان برگزار می‌شد. تعداد شرکت‌کنندگان در hdk کنفرانس بین ۲۰۰۰ تا ۴۲۰۰ نفر متغیر است. اگرچه استیو جابز فقید در سال ۲۰۰۷ اعلام کرد که تعداد شرکت‌کنندگان در این کنفرانس ۵۰۰۰ نفر بوده‌ است.

همه اینها بر اساس گزارش قبلی گورمن مبنی بر این است که اپل در حال مذاکره با شرکت‌های اوپن‌ای‌آی(OpenAI) و گوگل است تا به طور بالقوه از فناوری هوش مصنوعی آنها برای ویژگی‌های جدید سیستم عامل جدید خود به نام iOS 18 استفاده کند.

همچنین انتظار می‌رود که رویداد «Let Loose» به‌روزرسانی‌هایی را برای لوازم جانبی آیپد ایر(iPad Air) و آیپد(iPad) مانند صفحه کلید جادویی(Magic Keyboard) و قلم اپل(Apple Pencil) ارائه کند.

به گفته گورمن، قلم آینده اپل احتمالا بازخورد لمسی را ارائه می‌دهد.