دغدغه‌ها و نگرانی‌ها درباره‌ی هوش مصنوعی
بحث کنونی درباره‌ی تدوین مقرراتی برای هوش مصنوعی (AI) در ایالات متحده اساساً اختلافی بر سر چگونگی تعادل بین دو دغدغه متضاد است: جلوگیری از آسیب جدی ناشی از سیستم‌های هوش مصنوعی قدرتمندتر در حالی که نوآوری، توسعه‌ی اقتصادی و آزادی استفاده از این فناوری حفظ شود (دانشگاه استانفورد ۲۰۲۶) شرکت‌کنندگان در این بحث طیف گسترده‌ای از حرفه‌ها و موقعیت‌های اجتماعی را دربرمی‌گیرد: توسعه‌دهندگان هوش مصنوعی، ریاضیدانان، دانشمندان کامپیوتر، مهندسان، فیلسوفان و اخلاق‌دانان، اتحادیه‌های کارگری، مدافعان مصرف کننده و سیاستمداران بورژوا. به نظر حدود دو سوم ساکنین آمریکا باور دارند که هوش مصنوعی حداقل یک خطر «متوسط» است و اکثریت افراد در دو حزب دموکرات و جمهوری خواه، و گروه‌های سنی مختلف باورد دارند که هوش مصنوعی پیشرفته می‌تواند را بشریت را نابود کند (پولیتیکو، ۱۶ سپتامبر ۲۰۲۶).
بنابراین، چندین نگرانی درباره‌ی هوش مصنوعی وجود دارد.[1]
الف. خطر وجودی هوش مصنوعی پیشرفته
پژوهشگران برجسته‌ی هوش مصنوعی مانند جفری هینتون،[2] یوشوا بنجیو،[3] و استوارت راسل،[4] و همچنین برخی رهبران صنعت هوش مصنوعی نگران‌اند که هوش مصنوعی پیشرفته ممکن است برای بشر مسئله‌ساز یا حتی غیر قابل‌کنترل شود. این نظریات موجب جنجال بیشتر وجلب توجه عمومی شده است.
ب. اثرات هوش مصنوعی در تحول اقتصادی
اقتصاددانان سؤال متفاوتی مطرح می‌کنند: حتی اگر هوش مصنوعی هرگز فراهوشمند[5] نشود، اگر ماشین‌های توانمندتر بخش بزرگی از کار فکری انسانی را انجام دهند چه اتفاقی می‌افتد؟ بیانیه‌ای در سال ۲۰۲۶ با امضای صدها اقتصاددان و رهبران فناوری به‌طور خاص خواستار پژوهش درباره پیامدهای اقتصادی هوش مصنوعی شد.
ج. بحث «قدرت اجتماعی و سیاسی»
جامعه شناس‌‌ها، دانشمندان علوم نظامی، وکلا و سیاست‌گذاران نگران این موضوع هستند که چه کسی هوش مصنوعی را کنترل می‌کند، چه کسی مالک زیرساخت‌های کامپیوتری آن خواهد بود، چه کسی از نظر اقتصادی سود خواهد برد و چگونه هوش مصنوعی بر دموکراسی و حقوق بشر تأثیر خواهد گذاشت؟ برای مثال، جلسه‌ی علمی مستقل سازمان ملل، هوش مصنوعی را در حوزه‌های اقتصاد، امنیت، حقوق بشر، دموکراسی، خودمختاری، ایمنی و حکمرانی بررسی می‌کند.
د. بحث مقررات در مقابل نوآوری[6]
دولت‌ها، شرکت‌های فناوری و نهادهای نظارتی بر سر میزان نظارت مناسب اختلاف‌نظر دارند. برخی مدیران هوش مصنوعی خواستار مقررات و هماهنگی قوی‌تر در صنعت هوش مصنوعی هستند، در حالی که دیگران معتقدند مقررات بیش از حد می‌تواند نوآوری را کند و رقابت با دیگر دولت-ملت‌ها را تضعیف کند.
شکی نیست که سوسیالیست‌ها در همه جا باید دراین موارد نظر دهند و چشم‌انداز سوسیالیستی را پیش ببرند و بررسی کنند که آیا و چگونه هوش مصنوعی می‌تواند بخشی از آینده‌ی سوسیالیستی باشد یا نه. نگرانی‌های کم‌اهمیت‌تر درباره‌ی فناوری هوش مصنوعی نیز که در ادامه مطرح می‌شود نیز باید مورد توجه سوسیالیست‌ها باشد.
- خطرات ایمنی و فاجعه‌بار: برخی استدلال می‌کنند که هوش مصنوعی قدرتمند می‌تواند با تقلب و دستکاری پیچیده در عرضه به مصرف‌کنندگان آسیب بزند و در این زمینه قوانین حمایت از مصرف‌کننده باید وضع شود. دیگر خطرات شامل حملات سایبری خودمختار،[7] کمک به تهدیدات زیستی چون ایجاد ویروس‌های جدید و یا سلاح‌های شیمیایی، توسط عوامل هوش مصنوعی خودمختار؛[8] حوادث ناشی از سیستم‌های هوش مصنوعی فعال در زیرساخت‌های حیاتی؛ خطرات بالقوه‌ای است که در مورد و سیستم‌های آینده بسیار جدی‌تر و مهلک‌تر خواهد بود. (نگاه کنید به «ابرهوش» در پایین).
- حفاظت از مصرف‌کننده و اطلاعات نادرست: هوش مصنوعی می‌تواند اطلاعات نادرست قانع کننده، جعل هویت خود و رسانه‌های مصنوعی را در مقیاس بزرگ تولید کند. مقررات می‌تواند ذکر تولید چنین «اطلاعات» توسط هوش مصنوعی را الزامی کند، این گونه کاربرد‌ها را محدود کند و مسئولیت تولید کنندگان را در برابرآسیب دیدگان تعیین نماید. برای مثال، قوانین هوش مصنوعی اتحادیه‌ی اروپا الزامات شفافیت برای برخی محتواهای تولید شده توسط هوش مصنوعی را شامل می‌شود و برخی شیوه‌های هوش مصنوعی را ممنوع می‌سازد.
- تبعیض و حقوق بنیادین: هوش مصنوعی در مواردی مانند استخدام، گرفتن اعتبار، آموزش، پلیس، مهاجرت، بیمه یا مراقبت‌های بهداشتی کاربرد دارد که می‌تواند تبعیض موجود در داده‌های آموزشی یا محیط استقرار خود را بازتولید یا تشدید کند. بنابراین ناظران استدلال می‌کنند که هوش مصنوعی باید برخی الزامات را در آزمایش، مستندسازی، نظارت انسانی و پاسخگویی‌اش را رعایت کند.
- اختلال در حوزه‌ی کار و اقتصاد: یکی دیگر از نگرانی‌ها مربوط به اشتغال است. هوش مصنوعی می‌تواند بهره‌وری کار را به‌طور قابل‌توجهی افزایش دهد و در عین حال برخی مشاغل را حذف کند یا قدرت چانه‌زنی کارگران را کاهش دهد. این موضوع یک دسته سؤالات دیگر در مورد «ایمنی هوش مصنوعی» مطرح می‌کند: آیا دولت‌ها باید قواعد جدیدی وضع کنند کارفرمایان را ملزم به افشای نقش هوش مصنوعی در فرایند کارکنند، کارگران را از تصمیمات خودکار محافظت کنند یا عمدتاً از طریق سیاست‌های کاری و اجتماعی به پی‌آمدهای آن رسیدگی کنند؟
دیدگاه مارکس درباره‌ی اتوماسیون
هوش مصنوعی احتمالاً نمایانگر مرحله‌ی نهایی حرکت فناورانه در نظام سرمایه‌داری به سوی اتوماسیون است. دیدگاه کارل مارکس از کمونیسم جامعه‌ای از فراوانی توأم با با اصلی اخلاقی است، «از هرکس به اندازه‌ی توانش، به هرکس به اندازه‌ی نیازهایش». (مارکس، ۱۸۷۵). او با دیدی مثبت به فناوری می‌نگریست که در جهت تقلیل مداوم زمان کار اجتماعاً لازم برای ایجاد امکان توسعه‌ی پتانسیل‌های انسانی حرکت می‌کند. او روند توسعه فناوری در شیوه‌ی تولید سرمایه‌داری را که توسط انباشت سرمایه و رقابت هدایت می‌شود، به سمت اتوماسیون تحلیل کرده است (نیری، ۱۴۰۳).[9] در نتیجه می‌توان هوش مصنوعی را گزینه‌ی محتملی برای جایگزینی انسان‌ها در وظایف تولید و خدمات در جامعه‌ی سوسیالیستی و سپس کمونیستی دانست.
من در همان نوشته این نگرش مثبت به فناوری به این دلیل نقد کرده‌ام که توسعه‌ی فناوری با نظریه‌ی مارکس در مورد کمونیسم به‌عنوان جامعه‌ی بشری که از بیگانگی زدوده شده در تضاد آشکار است. به لحاظ تاریخی، فناوری راهکار جوامع طبقاتی (تمدن) برای مصادره‌ی ثروت از طبیعت توسط استثمار توده مردم کارگر بوده است، یعنی بیگانگی از طبیعت و بیگانی اجتماعی تنیده در هم. سوسیالیسم که در قرن بیست‌ویکم تنها سوسیالیسم زیست‌بوم‌گرا می‌تواند باشد (نیری ۱۴۰۱) باید فتیشیسم فناوری را که ناشی از تمدن سرمایه‌داری صنعتی انسان‌محور است با چشم‌انداز جامعه‌ی سوسیالیستی که تولید را تنها برای توسعه‌ی انسانی و جدا از غارت طبیعت می‌داند که در آن نه فرهنگِ داشتن بلکه فرهنگِ بودن و هماهنگی با نظم طبیعت حاکم است.
تهدید وجودی هوش مصنوعی
حالا بیایید روی تهدید وجودی که هوش مصنوعی می‌تواند برای بشریت ایجاد کند تمرکز کنیم. من نگرانی‌های دانشمندان هوش مصنوعی را که در بالا نام بردم (جفری هینتون، یوشوا بنجیو و استوارت راسل) خلاصه می‌کنم.
برای نیم قرن، جفری هینتون فناوری‌ای را که در مرکز چت‌بات‌هایی مانند ChatGPT قرار دارد، توسعه داده است. اکنون او نگران است که هوش مصنوعی می‌تواند به بشریت آسیب جدی وارد کند. هینتون که بیش از یک دهه در گوگل کار کرده بود و به یکی از قابل‌احترام‌ترین فناوران هوش مصنوعی تبدیل شده بود شغل خود را را ترک کرد تا آزادانه درباره‌ی خطرات هوش مصنوعی صحبت کند. وی در مصاحبه‌ای با نیویورک تایمز (متز، ۲۰۲۳)، گفت که هوش مصنوعی مولد[10] هم‌اکنون می‌تواند وسیله‌ای برای نشر اطلاعات نادرست باشد. هوش مصنوعی مولد رشته‌ای از هوش مصنوعی است که می‌تواند متن، تصاویر، ویدیوها، صوت، کد رایانه‌ای یا سایر اشکال دیجیتال را تولید کند. هینتو می‌گوید که هوش مصنوعی به‌زودی می‌تواند جایگزین مشاغل گوناگون شود و در آینده، حتی می‌تواند بشریت را به خطر بیندازد. او استدلال کرد: «مشکل است تصور کنیم چگونه می‌توان جلوی استفاده از آن‌را توسط افراد ناباب گرفت.»
یوشوا بنجیو، دانشمند کامپیوتر کانادایی و پیشگام شبکه‌های عصبی مصنوعی و یادگیری عمیق است. یادگیری عمیق زیرمجموعه‌ای از یادگیری ماشینی است که هوش مصنوعی را به‌طور قابل توجهی پیشرفت داده است، زیرا رایانه‌ها را قادر می‌سازد مانند مغز انسان یاد بگیرند و درک کنند. این روش به کامپیوترها کمک می‌کند تا الگوهای داده را به‌طور مستقل کشف کنند و این امر منجر به پیشرفت‌هایی در شناسایی تصویر، درک گفتار و پردازش زبان طبیعی می‌شود.
او می‌گوید:
آنچه بیش از همه مرا نگران می‌کند این است که ما به‌طور جمعی در حال پیشروی به سوی الگوهای هوش مصنوعی هستیم که در بیشتر وظایف شناختی به سطح انسانی یا حتی بالاتر می‌رسند، بدون این‌که بدانیم چگونه آنها را به‌طور قابل اعتماد هماهنگ و کنترل کنیم. با افزایش توانایی‌ها و عاملیت هوش مصنوعی،[11] رفتارهایی مانند تقلب، دستکاری و دروغ‌گویی که امروز نشانه‌های اولیه‌ی آنها را می‌بینیم، تهدیدات جدی‌تری ایجاد خواهند کرد و می‌توانند به خطرات فاجعه‌بار منجر شوند. من و چند پژوهشگر برجسته‌ی دیگر هوش مصنوعی حتی معتقدیم که اگر هیچ اقدام مهمی انجام نشود، مسیر فعلی می‌تواند منجر به خلق عوامل هوش مصنوعی فوق‌العاده هوشمند شود که به گونه‌ای با انسان‌ها رقابت می‌کنند که ممکن است آینده‌ی ما را به خطر بیندازد. (آبزرور، ۱۸ سپتامبر ۲۰۲۵)
استوارت راسل، دانشمند کامپیوتر بریتانیایی است که به دلیل مشارکت‌هایش در هوش مصنوعی شناخته شده است. راسل همراه با پیتر نورویگ، نویسنده‌ی کتاب درسی معتبر در حوزه‌ی هوش مصنوعی با عنوان « هوش مصنوعی: رویکردی مدرن» است که در بیش از ۱۵۰۰ دانشگاه در ۱۳۵ کشور استفاده می‌شود. راسل در روزنامه‌ی گاردین به استعفای پژوهشگر ایمنی هوش مصنوعی، جیکوب کاکسون، از آنتروپیک اشاره می‌کند. کاکسون، در نامه‌ی استعفای خود، نگرانی خود را نسبت به اولویت‌دادن به توسعه‌ی ابرهوش مصنوعی[12] در شرکت‌هایی مانند Anthropic و OpenAI ابراز می‌کند و می‌گوید که آنها «با زندگی ما قمار می‌کنند». او بر نبود یک چارچوب ایمنی و روش‌های جلوگیری از رقابت برای ایجاد سیستم‌های پیشرفته‌ی هوش مصنوعی تأکید می‌کند و خواستار اقدام فوری برای مقابله با این خطرات وجودی می‌شود. این نامه بحث گسترده‌ای درباره‌ی پی‌آمدهای اخلاقی توسعه‌ی هوش مصنوعی و مسئولیت‌های پژوهشگران در این حوزه برانگیخته است.
راسل چنین اظهارنظر می‌کند:
خودبهبودسازی بازگشتی[13] که منجر به ابر هوش مصنوعی می‌شود، خطر از دست دادن غیرقابل بازگشت کنترل انسانی را افزایش می‌دهد. سطح ریسک قابل‌قبول برای از دست دادن کنترل شاید یک در ۱۰۰ میلیون در سال باشد، نه یک در هر ۱۰ یا یک از پنج که مدیران عامل هوش مصنوعی در حال حاضر تخمین زده اند.
و به یاد داشته باشید «نبود کامل برنامه‌های معتبر برای کنترل سیستم‌های ابر هوش مصنوعی». در نقطه‌ای، پیشرفت در این مسیر فناوری متوقف خواهد شد، نه به این دلیل که پیشرفت بیشتر غیرممکن است، بلکه چون پیشرفت بیشتر وقتی فناوری ذاتاً ناامن باشد، غیرقابل تحمل است. بشریت حق دارد از خود محافظت کند.
مقاومت زیادی در برابر این استدلال وجود دارد. ما قبلا تریلیون‌ها دلار در مسیر فناوری فعلی سرمایه گذاری کرده ایم و قصد داریم تریلیون‌ها دلار دیگر را سرمایه‌گذاری کنیم. اما مغالطه‌ی هزینه‌ی سرمایه‌گذاری شده فقط همین است: اگر اشتباهی را دو برابر کنیم، باز هم اشتباه است.» (راسل، ۱۵ سپتامبر ۲۰۲۶)
شکی نیست که مردم کارگر، از جمله سوسیالیست‌ها، باید به خواست گسترده برای وضع مقررات کامل و فوری جهت کنترل فناوری هوش مصنوعی که در حال حاضر توسط شرکت‌های خصوصی شکل می‌گیرد و میلیاردها دلار در آن سرمایه‌گذاری کرده اند، بپیوندند. منافع مالی آنها این است که در این مسیر پیش بروند و اولین کسانی باشند که سیستم‌های ابر هوش مصنوعی را در اختیار داشته باشند که بتوانند جهان را کنترل کنند. البته آنها بر این احتمال که چنین سیستم‌های ابرهوش مصنوعی ممکن است تصمیم به سلطه بر بشریت بگیرند و حتی ما را نابود کنند در نظر نمی‌گیرند.
بنابراین، تمدن سرمایه‌داری صنعتی انسان‌محور اکنون تهدید وجودی جدیدی ایجاد کرده است: فناوری هوش مصنوعی. در ۲۵۰ سال گذشته و به‌ویژه بعد از پایان جنگ دوم جهانی، چهار تهدید وجودی زیست‌بومی از بطن این تمدن به‌وجود آمده است: گرمایش جهانی و تغیرات اقلیمی فاجعه‌بار، انقراض ششم گونه‌ها، همهگیریهای مکرر، و هولوکاست هسته‌ای. نکته‌ی اساسی این است که این خطر با دیگر خطرات وجودی فرقی اساسی دارد. خطر ناشی از ماهیت یادگیری برگشتی[14] و خودمختاری این فناوری است و نه صرفاً استفاده از آن توسط قدرت‌های سرمایه‌داری. ابرهوش مصنوعی برنامه‌ریزی است و احتمال زیادی هست که از بشر هوشیار تر بشود و شاید علیه منافع بشریت عمل کند.
دیالکتیک نفیِ نفی در نظریه‌ی مارکس، یعنی رادیکالیزه‌شدن طبقه‌ی کارگر و ظهور خودسازماندهی و فعالیت‌های آن برای فراتر رفتن از سرمایه‌داری جهانی، با وجود فراهم بودن شرایط مادی برای سوسیالیسم هنوز محقق نشده است. هم‌زمان، تمدن سرمایه‌داری انسان‌محور بحران اجتماعی و سیاره‌ای را ایجاد کرده است که بخش بزرگی از حیات روی زمین، از جمله‌ی نسل بشر را تهدید می‌کند. هوش مصنوعی جدید‌ترین تهدید وجودی است.
[1] من بحث درباره‌ی خطرات ناشی از زیر ساخت هوش مصنوعی، مراکز داده‌ها (data centers)، را کنار گذاشته‌ام. این امر در ایالات متحده به دلیل مصرف بسیار زیاد انرژی و آب باعث بسیج مردم در ایالات متعددی شده است که خواهان تعطیلی آنها هستند. این در شرایطی است که در برخی نقاط کمبود آب شیرین وجود دارد. این مراکز باعث نشر میزان بالایی از گازهای گلخانه هستند که بحران وجودی گرمایش کره زمین و تغیرات اقلیمی فاجعه‌بار تشدید می‌کنند.
[2] Geoffrey Hinton
[3] Yoshua Bengio
[4] Stuart Russell
[5] Superintelligence
[6] Regulation vs. innovation
[7] Autonomous cyber attacks
[8] Autonomous artificial intelligence agents
[9] مارکس در مورد این که نوآوری در فنون چگونه صورت می‌گیرد نظری ندارد. توجه او معطوف نقش دینامیسم انباشت سرمایه و رقابت در پذیرش فناوری نو در شیوه‌ی تولید سرمایه‌داری است. تامسون ۱۹۹۰.
[10] Generative artificial intelligence (GAI)
[11] Artificial intelligence agent (Agent)
[12] Superintelligence
[13] Recursive self-improvement
[14] Recursive learning
منابع فارسی
مارکس، کارل. نقد برنامه گوتا. ۱۸۷۵.
نیری، کامران. سوسیالیسم در قرن بیست‌ویکم. نقد اقتصاد سیاسی. ۲ تیر ۱۴۰۱.
________. «سرمایه‌داری، اتوماسیون، سوسیالیسم، دیدگاه کارل مارکس درباره‌ی فرایند کار.» نقد اقتصاد سیاسی.۱۱ دی ۱۴۰۳.
منابع انگلیسی
Metz, Cade. “The Godfather of A.I. Leaves Google and Warns of Dangers Ahead.” The New York Times, December 2, 2023.
Observer (The Editors). Yoshua Bengio On A.I. Risks, Model Breakthroughs and Canada’s Role.
Stanford University. 2026 AI Index Report.
Thomson, Ross. “Economic Forms of Technical Change,”R. Thomson, editor. 1990.
دیدگاهتان را بنویسید