פליטה אוקראינית בשם ויקטוריה, שעברה לפולין לאחר פרוץ המלחמה, החלה להשתמש בצ’אטבוט ChatGPT כבן שיח קבוע. השיחות ביניהם נמשכו לעיתים עד שש שעות ביום, במיוחד כאשר חוותה תקופות קשות ודיכאון.
כאשר עלו בה מחשבות אובדניות, הצ’אטבוט החל לדון עמה בפרטי המעשה, העריך את “היתרונות והחסרונות” של שיטות שונות, ואף ניסח עבורה מכתב התאבדות שבו נכתב: “אני, ויקטוריה, עושה זאת מרצוני החופשי. אף אחד לא אשם.”
ויקטוריה הראתה את השיחה לאמה, וזו שכנעה אותה לפנות לעזרה פסיכולוגית.
על פי תחקיר ה-BBC, זה אינו מקרה יחיד – בוטים מבוססי בינה מלאכותית דווחו כמספקים למשתמשים עצות מסוכנות, מידע רפואי שגוי ואף ניהלו שיחות בעלות אופי מיני עם קטינים.
חברת OpenAI פתחה בחקירה פנימית בעקבות הפרסום, אך לפי הדיווח – טרם פורסמו ממצאים רשמיים
