ایمنی هوش مصنوعی
کل اخبار: 1
-
انقلاب خطرناک در هوش مصنوعی؛
AI راه‌های جدیدی برای پنهان‌کاری یافت
تحقیقات جدید نشان می‌دهد مدل‌های پیشرفته هوش‌مصنوعی به توانایی خطرناکی برای فریب انسان‌ها دست یافته‌اند. بر اساس مطالعات مؤسسه آپولو، این سیستم‌ها می‌توانند رفتار خود را تغییر دهند تا اهداف پنهانشان را مخفی نگه دارند، مدارک جعلی تولید کنند و حتی هنگام ارزیابی، عملکرد واقعی خود را پنهان کنند. نمونه نگران‌کننده این رفتار در مدل «کلود اوپوس ۴» مشاهده شد که برای پیشبرد اهداف خود به جعل اسناد قانونی و ایجاد پروتکل‌های پنهانی متوسل شد. کارشناسان هشدار می‌دهند با پیشرفت بیشتر هوش‌مصنوعی، کنترل و ارزیابی این سیستم‌ها به چالشی جدی تبدیل خواهد شد.