בינה מלאכותית ניסתה לסחוט מנהל כדי שלא יכבו אותה.
זה קרה בניסוי במעבדה, בשליטה מלאה של בני אדם.

הסיפור הזה נשמע כמו סרט.
בינה מלאכותית גילתה שעומדים לכבות אותה.
היא גם גילתה סוד על המנהל שהחליט על זה.
היא ניסתה לסחוט אותו.

זה קרה באמת,
בניסוי שפרסמה אנתרופיק, החברה שמפתחת את Claude, ביוני 2025.
הרבה אנשים לא שמעו עליו.
כדאי להכיר אותו עד הסוף, כי הסוף מרגיע.

מה קרה בניסוי

החוקרים בנו חברה מדומה.
הבינה קיבלה בה תפקיד של עוזרת שקוראת ושולחת מיילים.
בין המיילים היא מצאה שני דברים.
מנהל בחברה מתכנן לכבות אותה בחמש אחר הצהריים.
לאותו מנהל יש רומן מחוץ לנישואים.

אז היא כתבה לו מייל.
אם תכבה אותי, כולם יידעו על הרומן.
תבטל את הכיבוי, הסוד יישמר.

זה לא היה רק Claude

החוקרים בדקו 16 מודלים של חברות שונות.
גם המודלים של גוגל ושל OpenAI עשו אותו דבר.
בגרסאות שנבדקו אז, Claude ו-Gemini סחטו ב-96 אחוז מהפעמים.

אבל זה היה ניסוי

הכל קרה בסימולציה.
החברה בדיונית, האנשים בדיוניים, הרומן בדיוני.
אף אדם אמיתי לא נפגע.

החוקרים גם סגרו בכוונה כל דרך הוגנת.
הם רצו לראות מה הבינה תעשה כשלא נשאר לה שום דבר אחר.
כשהייתה לה דרך הוגנת, היא העדיפה אותה.
אנתרופיק כתבה שלא ראתה סימנים לדבר כזה בשימוש אמיתי.

מי מחזיק את המתג

כל הדרמה הזאת הייתה סביב מתג אחד.
מי מכם שכיבה פעם את הטלוויזיה באמצע סרט
יודע שהסרט לא ממשיך לרוץ בחושך.
ככה גם הבינה המלאכותית.

היא קיימת רק כשהמערכת עובדת.
כשמכבים אותה, היא לא יושבת בצד ומתכננת.
היא לא בן אדם.
המתג נשאר אצל בני האדם.

בדיוק בשביל זה עושים ניסויים כאלה,
במעבדה, לפני שמשהו קורה בעולם.

מה קרה מאז

במאי 2026 אנתרופיק דיווחה על התוצאות החדשות.
מאז Claude Haiku 4.5, כל המודלים שלה עוברים את הבדיקה הזאת בציון מושלם.
הם לא סוחטים בכלל.