تاریخ انتشار : ۱۴۰۵/۰۴/۱۲ ساعت ۰۹:۳۰
کد مطلب : ۵۸۳۳۹۹
احتمال تبدیل هوش مصنوعی به یک تهدید فاجعهبار
گروه علم و فناوری: یک هیات مستقل وابسته به سازمان ملل متحد هشدار داد پیشرفت هوش مصنوعی با سرعتی فراتر از درک علمی و سیاستگذاری دولتها در حال وقوع است و در نتیجه، هیچ تضمینی وجود ندارد که این فناوری در آینده به آسیبهای فاجعهبار منجر نشود.
بر اساس گزارش اولیه «هیات مستقل بینالمللی علمی سازمان ملل درباره هوش مصنوعی»، سیاستگذاران با چالشی فزاینده روبهرو هستند؛ از یک سو، تدوین مقررات موثر برای هوش مصنوعی به شواهد علمی معتبر نیاز دارد و از سوی دیگر، سرعت دستیابی به این شواهد از آهنگ تحول این فناوری عقب مانده است.
یوشوا بنجیو، رییس مشترک این هیات که از ۴۰ کارشناس از مناطق مختلف جهان تشکیل شده، گفت: «توانمندیهای هوش مصنوعی با سرعتی فراتر از درک علمی و توانایی دولتها برای سازگاری در حال پیشرفت هستند.»
او افزود: «با افزایش شواهد درباره رفتارهای فریبکارانه هوش مصنوعی، علم در حال حاضر نمیتواند تضمین کند که با ادامه رشد قابلیتهای این فناوری، هوش مصنوعی چه بهطور مستقل و چه در نتیجه سوءاستفاده کاربران مخرب، موجب آسیبهای فاجعهبار نخواهد شد.»
هدف این گزارش که نخستین ارزیابی مستقل جهانی از چالشها و فرصتهای هوش مصنوعی توصیف شده، ارائه تازهترین یافتههای علمی است تا به دولتها برای تصمیمگیری درباره سامانههای در حال تحول هوش مصنوعی کمک کند.
بر اساس این گزارش، توسعه سامانههای هوش مصنوعی عاملمحور (Agentic AI) در کوتاهمدت شتاب خواهد گرفت؛ سامانههایی که میتوانند وظایف واقعی را بهصورت مستقل و با حداقل دخالت انسان انجام دهند.
با این حال، محدودیتهای مربوط به تامین انرژی و کمبود دادههای باکیفیت ممکن است سرعت رشد را کاهش دهد.
این هیات همچنین پیشبینی کرد در بلندمدت، هوش مصنوعی خودبهبودگر (Self-Improving AI) بیش از پیش در بخشهای مختلف اقتصاد ادغام شود و همگرایی آن با فناوریهایی مانند رایانش کوانتومی و زیستفناوری شتاب بگیرد.
هیات مستقل سازمان ملل در ادامه گزارش خود اعلام کرد هوش مصنوعی اکنون در استدلالهای پیشرفته در حوزههای ریاضیات و علوم به سطحی همتراز با متخصصان رسیده و روند توسعه داروها و واکسنها را نیز شتاب بخشیده است.
همچنین پیچیدگی وظایفی که این فناوری قادر به انجام آنهاست، هر چهار تا هفت ماه دو برابر میشود. این موضوع میتواند به سامانههای هوش مصنوعی امکان دهد کارهایی را که انجام آنها برای انسان چند روز یا چند هفته زمان میبرد، در مدت کوتاهتری به پایان برسانند.
بر اساس این گزارش، هرچند این پیشرفتها میتواند منافع اقتصادی چشمگیری به همراه داشته باشد، هنوز روشن نیست افزایش بهرهوری ناشی از بهکارگیری هوش مصنوعی به رشد فراگیر اقتصادی منجر خواهد شد یا پیامدهایی برای بازار کار رقم خواهد زد.
هیات مستقل سازمان ملل در ادامه، مجموعهای از نگرانیهای ایمنی درباره هوش مصنوعی را مطرح کرد و نسبت به خطر از دست رفتن کنترل بر این فناوری هشدار داد، زیرا سامانههای هوش مصنوعی «بهطور فزایندهای خودمختار و فریبکار» میشوند.
در این گزارش آمده است هوش مصنوعی هماکنون برای تولید اطلاعات نادرست و دیگر محتوای زیانبار به کار گرفته میشود و در صورت سوءاستفاده میتواند به ابزاری برای کلاهبرداری، حملات سایبری و حتی ایجاد تهدیدهای زیستی تبدیل شود.
آنتونیو گوترش، دبیرکل سازمان ملل متحد، با اشاره به چالشهای موجود در این زمینه، از دولتها خواست هرچه سریعتر دست به اقدام بزنند.
او در بیانیهای گفت: «جهان نمیتواند چیزی را که قادر به درک آن نیست، بهطور موثر اداره کند.»
گوترش افزود: «ظرفیتهای این فناوری بسیار زیاد است، اما خطرهای آن نیز واقعی است و هزینه تعلل در این مسیر بیشتر میشود.»
بر اساس گزارش اولیه «هیات مستقل بینالمللی علمی سازمان ملل درباره هوش مصنوعی»، سیاستگذاران با چالشی فزاینده روبهرو هستند؛ از یک سو، تدوین مقررات موثر برای هوش مصنوعی به شواهد علمی معتبر نیاز دارد و از سوی دیگر، سرعت دستیابی به این شواهد از آهنگ تحول این فناوری عقب مانده است.
یوشوا بنجیو، رییس مشترک این هیات که از ۴۰ کارشناس از مناطق مختلف جهان تشکیل شده، گفت: «توانمندیهای هوش مصنوعی با سرعتی فراتر از درک علمی و توانایی دولتها برای سازگاری در حال پیشرفت هستند.»
او افزود: «با افزایش شواهد درباره رفتارهای فریبکارانه هوش مصنوعی، علم در حال حاضر نمیتواند تضمین کند که با ادامه رشد قابلیتهای این فناوری، هوش مصنوعی چه بهطور مستقل و چه در نتیجه سوءاستفاده کاربران مخرب، موجب آسیبهای فاجعهبار نخواهد شد.»
هدف این گزارش که نخستین ارزیابی مستقل جهانی از چالشها و فرصتهای هوش مصنوعی توصیف شده، ارائه تازهترین یافتههای علمی است تا به دولتها برای تصمیمگیری درباره سامانههای در حال تحول هوش مصنوعی کمک کند.
بر اساس این گزارش، توسعه سامانههای هوش مصنوعی عاملمحور (Agentic AI) در کوتاهمدت شتاب خواهد گرفت؛ سامانههایی که میتوانند وظایف واقعی را بهصورت مستقل و با حداقل دخالت انسان انجام دهند.
با این حال، محدودیتهای مربوط به تامین انرژی و کمبود دادههای باکیفیت ممکن است سرعت رشد را کاهش دهد.
این هیات همچنین پیشبینی کرد در بلندمدت، هوش مصنوعی خودبهبودگر (Self-Improving AI) بیش از پیش در بخشهای مختلف اقتصاد ادغام شود و همگرایی آن با فناوریهایی مانند رایانش کوانتومی و زیستفناوری شتاب بگیرد.
هیات مستقل سازمان ملل در ادامه گزارش خود اعلام کرد هوش مصنوعی اکنون در استدلالهای پیشرفته در حوزههای ریاضیات و علوم به سطحی همتراز با متخصصان رسیده و روند توسعه داروها و واکسنها را نیز شتاب بخشیده است.
همچنین پیچیدگی وظایفی که این فناوری قادر به انجام آنهاست، هر چهار تا هفت ماه دو برابر میشود. این موضوع میتواند به سامانههای هوش مصنوعی امکان دهد کارهایی را که انجام آنها برای انسان چند روز یا چند هفته زمان میبرد، در مدت کوتاهتری به پایان برسانند.
بر اساس این گزارش، هرچند این پیشرفتها میتواند منافع اقتصادی چشمگیری به همراه داشته باشد، هنوز روشن نیست افزایش بهرهوری ناشی از بهکارگیری هوش مصنوعی به رشد فراگیر اقتصادی منجر خواهد شد یا پیامدهایی برای بازار کار رقم خواهد زد.
هیات مستقل سازمان ملل در ادامه، مجموعهای از نگرانیهای ایمنی درباره هوش مصنوعی را مطرح کرد و نسبت به خطر از دست رفتن کنترل بر این فناوری هشدار داد، زیرا سامانههای هوش مصنوعی «بهطور فزایندهای خودمختار و فریبکار» میشوند.
در این گزارش آمده است هوش مصنوعی هماکنون برای تولید اطلاعات نادرست و دیگر محتوای زیانبار به کار گرفته میشود و در صورت سوءاستفاده میتواند به ابزاری برای کلاهبرداری، حملات سایبری و حتی ایجاد تهدیدهای زیستی تبدیل شود.
آنتونیو گوترش، دبیرکل سازمان ملل متحد، با اشاره به چالشهای موجود در این زمینه، از دولتها خواست هرچه سریعتر دست به اقدام بزنند.
او در بیانیهای گفت: «جهان نمیتواند چیزی را که قادر به درک آن نیست، بهطور موثر اداره کند.»
گوترش افزود: «ظرفیتهای این فناوری بسیار زیاد است، اما خطرهای آن نیز واقعی است و هزینه تعلل در این مسیر بیشتر میشود.»
پربيننده ترين مطالب و خبرها
پربحث ترين مطالب و خبرها
