چالش‌های شفافیت در شرکت‌های بزرگ هوش مصنوعی: نگاهی به گزارش استنفورد و راهکار هوشی

شفافیت در هوش مصنوعی: قولی که تحقق نیافت؟

در سال ۲۰۲۳، ۱۵ شرکت پیشرو در حوزه هوش مصنوعی متعهد شدند که شفافیت بیشتری در مورد سیستم‌های خود به کاربران ارائه دهند. این تعهد شامل اشتراک‌گذاری اطلاعات دقیق‌تر درباره نحوه عملکرد، قابلیت‌ها و محدودیت‌های مدل‌هایشان بود. اما این وعده‌ها تا چه حد عملی شده‌اند؟ گزارشی جدید از مرکز تحقیقات مدل‌های بنیادین (CRFM) دانشگاه استنفورد، به این پرسش کلیدی پاسخ می‌دهد و ۱۰ مدل برتر هوش مصنوعی را بر اساس ۱۰۰ معیار مختلف شفافیت مورد ارزیابی قرار داده است.

نتایج نگران‌کننده: شکاف شفافیت در صنعت هوش مصنوعی

یافته‌های این گزارش نشان می‌دهد که شرکت‌ها در ارائه اطلاعات شفاف، عملکردی بسیار متفاوت دارند. در حالی که برخی مانند OpenAI و Google اطلاعات نسبتاً بیشتری منتشر می‌کنند، شرکت‌هایی چون Microsoft و Amazon در این زمینه کم‌کارتر بوده‌اند. متأسفانه، حتی بهترین مدل‌ها نیز نتوانسته‌اند نمره قابل قبولی کسب کنند. مدل Llama 2 از شرکت متا با کسب تنها ۵۴ از ۱۰۰ امتیاز، بالاترین رتبه را به خود اختصاص داد. این امتیاز پایین، زنگ خطری جدی برای «فقدان اساسی شفافیت در صنعت هوش مصنوعی» است. ریشی بوماسانی، یکی از رهبران این پروژه، این شاخص را تلاشی برای مقابله با روند نگران‌کننده‌ای می‌داند که در آن با افزایش تأثیرگذاری مدل‌های هوش مصنوعی، شفافیت آن‌ها رو به کاهش بوده است.

معیارهای سنجش شفافیت: از داده‌های آموزشی تا پیامدهای اجرایی

شاخص شفافیت مدل بنیادین (CRFM) از ۱۰۰ معیار برای ارزیابی مدل‌های هوش مصنوعی استفاده می‌کند که در سه دسته کلی قرار می‌گیرند:

• عوامل بالادستی: شامل جزئیات مربوط به نحوه آموزش مدل، مانند داده‌های مورد استفاده، معیارهای ارزیابی و روش‌های آموزشی.
• ویژگی‌ها و عملکرد مدل: اطلاعاتی درباره ابعاد، معماری و قابلیت‌های مدل.
• عوامل پایین‌دستی: مربوط به نحوه توزیع، استفاده و مدیریت خطرات احتمالی مدل پس از انتشار.

کوین کلیمن، یکی از نویسندگان گزارش، بر اهمیت شفافیت در تمام این جنبه‌ها تأکید می‌کند؛ از منابع آموزشی گرفته تا ارزیابی قابلیت‌ها و پیامدهای پس از انتشار مدل.

ابهامات داده‌های آموزشی و نیروی کار در هوش مصنوعی

یکی از نقاط ضعف عمده شرکت‌های هوش مصنوعی، ارائه اطلاعات ناکافی درباره منشأ داده‌های آموزشی مدل‌هایشان است. این موضوع به ویژه نگران‌کننده است، زیرا می‌تواند منجر به استفاده غیرقانونی از محتوای دارای حق نشر شود. در میان ۱۰ مدل بررسی شده، تنها مدل Bloomz از Hugging Face در بخش داده‌های آموزشی امتیاز بالایی کسب کرد و سایر مدل‌ها یا امتیاز پایینی گرفتند و یا صفر. همچنین، موضوع نیروی کار انسانی که در فرآیند آموزش مدل‌هایی چون GPT-4 نقش دارند، با ابهامات زیادی روبروست. اطلاعات کمی در مورد هویت، دستمزد و شرایط کاری این افراد منتشر می‌شود که نگرانی‌هایی را درباره استثمار نیروی کار کم‌درآمد در مناطق محروم ایجاد کرده است.

مدل‌های متن‌باز: پیشگامان شفافیت

مدل‌های زبانی متن‌باز مانند Llama 2 (متا)، Bloomz (Hugging Face) و Stable Diffusion (Stability AI) در زمینه شفافیت پیشتاز هستند. این مدل‌ها وزن‌های خود را به اشتراک می‌گذارند و امکان بررسی دقیق‌تر را فراهم می‌کنند. با این حال، نگرانی‌هایی نیز در مورد مسئولیت‌پذیری این مدل‌ها وجود دارد؛ چرا که قدرت آن‌ها می‌تواند مورد سوءاستفاده قرار گیرد. محققان استنفورد متعهد به به‌روزرسانی مداوم این شاخص هستند تا به سیاست‌گذاران در تدوین قوانین مؤثر برای هوش مصنوعی یاری رسانند.

چرا هوشی؟ راهنمای شما به سوی شفافیت و کنترل

در دنیای پیچیده هوش مصنوعی، شفافیت و کنترل امری حیاتی است. هوشی با ارائه پلتفرمی جامع، به شما امکان می‌دهد تا با اطمینان بیشتری از قابلیت‌های هوش مصنوعی بهره‌مند شوید. ما در هوشی، تلاش می‌کنیم تا با ارائه ابزارهای قدرتمند و شفاف، تجربه کاربری بی‌نظیری را برای شما فراهم کنیم. از ساخت ایجنت کدنویسی سفارشی گرفته تا مدیریت آسان توکن‌های API، همه چیز در دسترس شماست. برای شروع، کافیست در هوشی ثبت‌نام کنید و کنترل کامل پروژه‌های هوش مصنوعی خود را به دست بگیرید.

سوالات متداول