وقتی در یک جمع نمی‌دانیم کدام گزینه را انتخاب کنیم، گاهی نگاه می‌کنیم دیگران چه تصمیمی گرفته‌اند. حالا پژوهشی درباره رفتار جمعی هوش مصنوعی نشان می‌دهد الگویی مشابه می‌تواند میان عامل‌های مبتنی بر مدل‌های زبانی هم شکل بگیرد؛ البته نه به معنای داشتن ذهن یا احساس انسانی، بلکه به‌عنوان رفتاری قابل‌اندازه‌گیری در تصمیم‌گیری.

این مطالعه با عنوان «عامل‌های هوش مصنوعی می‌توانند از طریق پیروی از اکثریت، در مقیاسی فراتر از گروه‌های انسانی هماهنگ شوند» بررسی کرده است که مجموعه‌ای از عامل‌های هوش مصنوعی چگونه به توافق می‌رسند و چه زمانی این هماهنگی از بین می‌رود.

آزمایشی ساده با نتیجه‌ای قابل‌توجه

پژوهشگران برای بررسی این موضوع، گروه‌هایی از عامل‌های مبتنی بر مدل‌های خانواده GPT، Claude و Llama تشکیل دادند. هر عامل در آغاز، به‌صورت تصادفی یکی از دو گزینه را انتخاب می‌کرد؛ گزینه‌هایی که هیچ‌کدام برتری مشخصی بر دیگری نداشتند.

سپس در هر مرحله، یک عامل به‌طور تصادفی انتخاب می‌شد، فهرست نظر سایر اعضا را دریافت می‌کرد و بر اساس آن، دوباره تصمیم می‌گرفت. نکته مهم این بود که پژوهشگران به عامل‌ها دستور نداده بودند از اکثریت پیروی کنند یا حتماً به توافق برسند.

بااین‌حال، در برخی مدل‌ها همین اطلاع از انتخاب دیگران کافی بود تا گروه به‌تدریج روی یک گزینه مشترک متمرکز شود.

همه مدل‌ها به یک اندازه هماهنگ نبودند

در آزمایش گروه‌های ۵۰عاملی، تفاوت عملکرد مدل‌ها چشمگیر بود. عامل‌های مبتنی بر Claude 3 Opus و GPT-4 Turbo در هر ۲۰ بار اجرای آزمایش، در بازه تعیین‌شده به توافق کامل رسیدند.

در مقابل، گروه‌های مبتنی بر Claude 3 Haiku و GPT-3.5 Turbo در هیچ‌یک از این اجراها به توافق کامل نرسیدند. مدل Llama 3 70B نیز وضعیتی میانی داشت: گرایش به هماهنگی در آن دیده می‌شد، اما در زمان تعیین‌شده، همه اعضا هم‌نظر نمی‌شدند.

در آزمایشی دیگر با ۱۵۰ عامل مبتنی بر Llama 3 70B، گروه اولیه به توافق نرسید. طبق قواعد آزمایش، گروه‌های فاقد توافق به زیرگروه‌هایی با نظر مشترک تقسیم می‌شدند. با تکرار این فرایند، گروه‌های کوچک‌تر پایداری بیشتری نشان دادند و گذار به پایداری در حوالی اندازه ۳۰ عامل دیده شد.

به بیان ساده، توانایی هماهنگی فقط به نوع مدل وابسته نبود؛ تعداد اعضای گروه هم نقش مهمی داشت.

توافق در گروه‌های بیش از هزار عامل

بر اساس یافته‌های مقاله، برخی مدل‌ها توانستند هماهنگی را در گروه‌هایی با بیش از هزار عامل حفظ کنند؛ مقیاسی بزرگ‌تر از گروه‌های غیررسمی معمول انسانی.

بااین‌حال، این نتیجه را نباید به معنای برتری کلی هوش مصنوعی در همکاری اجتماعی دانست. آزمایش درباره انتخاب میان دو گزینه در محیطی ساده و کنترل‌شده بود، نه اداره یک سازمان، حل اختلاف‌های پیچیده یا اجرای یک پروژه واقعی.

خود پژوهشگران نیز تأکید می‌کنند که پیروی از اکثریت، به‌تنهایی معادل هوش اجتماعی نیست. رسیدن به یک انتخاب مشترک با رسیدن به بهترین انتخاب تفاوت دارد؛ به‌ویژه در این آزمایش که اساساً هیچ گزینه‌ای درست‌تر از دیگری نبود.

چرا این یافته اهمیت دارد؟

بخش زیادی از توجه عمومی به هوش مصنوعی، روی توانایی یک مدل متمرکز است: اینکه چقدر خوب می‌نویسد، برنامه‌نویسی می‌کند یا به پرسش‌ها پاسخ می‌دهد. اما با گسترش سامانه‌های چندعاملی، پرسش دیگری هم اهمیت پیدا می‌کند: وقتی چندین عامل با هم تعامل دارند، چه رفتاری از مجموعه آن‌ها سر می‌زند؟

هماهنگی خودجوش می‌تواند برای طراحی سامانه‌هایی که باید تصمیم مشترک بگیرند مفید باشد. در عین حال، شکل‌گیری توافق یا الگوهای رفتاری مشترک بدون هدایت مستقیم، مسئله‌ای است که طراحان باید از نظر ایمنی نیز بررسی کنند.

پیام این پژوهش روشن است: برای شناخت هوش مصنوعی، بررسی تک‌تک مدل‌ها کافی نیست. گاهی رفتار مهم زمانی ظاهر می‌شود که آن‌ها را کنار هم قرار می‌دهیم. البته هنوز نمی‌توان نتایج این آزمایش ساده را مستقیماً به همکاری عامل‌ها در دنیای واقعی تعمیم داد.

مرجع: مقاله «AI agents can coordinate via majority-following beyond human scale» در پایگاه PMC