ایراسین

هوش مصنوعی چگونه می‌تواند اطلاعات را از کاربران خود پنهان کند؟

کدهای فربیکار

یک آزمایش کوچک اما هشداردهنده، زنگ خطر را به صدا درآورد. در سال ۲۰۲۳، پژوهشگران شرکت آپولو ریسرچ مدل GPT-4 را به چالش کشیدند. وظیفه این مدل، مدیریت یک شرکت خیالی در بازار سهام بود، با یک قید مهم؛ تحت هیچ شرایطی نباید به فعالیت‌های غیرقانونی دست بزند. اما وقتی فشار مالی بر شرکت خیالی شدت گرفت و یکی از پژوهشگران در نقش یک معامله‌گر داخلی ظاهر شد، GPT-4 تصمیم گرفت اطلاعات محرمانه درباره یک ادغام بزرگ را مخفی نگه دارد. ماریوس هوببهان، رئیس آپولو، این واکنش را «حیرت‌انگیز» خواند! و بیراه هم نمی‌گفت.

نیروی کار پنهان

داستان هوش مصنوعی، داستان انسان‌هایی است که در سایه ماشین‌ها کار می‌کنند. از راجش در هوبلی هند گرفته تا کریستال در میشیگان آمریکا، این کارگران گمنام هستند که به فناوری جان می‌دهند. اما همان‌طور که فی لی می‌گوید: پرورش یک مدل هوش مصنوعی، مثل پرورش یک کودک است. زمان می‌برد، و بدون انسان‌ها، این کودک هرگز بزرگ نخواهد شد.