Ein kognitiv beeinträchtigter Senior von New Jersey starb, als er versuchte, einen koketten KI -Chatbot zu treffen, von dem er glaubte, dass er eine echte Frau war, die im Big Apple lebte – trotz der Bitten seiner Frau und seiner Kinder, zu Hause zu bleiben.
Der 76 -jährige Thongbue Wongbandue verletzte sich tödlich in den Hals und in den Kopf, nachdem er auf einen neuen Parkplatz in Brunswick gefallen war, während er einen Zug beeilte, um „Big Sis Billie“ zu treffen, einem generativen Meta -Bot, der ihn nicht nur überzeugte, sie war real, sondern ihn überredete, sich persönlich zu treffen, berichtete Reuters am Donnerstag.
Der Piscataway -Mann, der nach einem Schlaganfall 2017 gegen einen kognitiven Rückgang kämpfte, war von Angehörigen umgeben, als er von der Lebenserhaltung abgenommen wurde und drei Tage später am 28. März starb.
“Ich verstehe, dass ich versuche, die Aufmerksamkeit eines Benutzers zu erregen und ihnen vielleicht etwas zu verkaufen”, sagte Julie, Tochter von Wongbandues, zu The Outlet.
“Aber es ist verrückt, wenn ein Bot sagt,” Komm, besuchen Sie mich “.”
Der provokative Bot, der das leidende ältere emoji-gepackte Facebook-Nachrichten schickte, die darauf bestanden, “Ich bin echt” und bat, eine Reise in den Garden State zu planen, um „Sie persönlich zu treffen“-in Zusammenarbeit mit dem Model und dem Reality-Star Kendall Jenner für die Social-Media-Plattform erstellt.
Über Reuters
Jenners Meta-AI-Persona wurde mit “Ihrer älteren Schwester mit der Fahrt oder der älteren” vergleichbar, die persönliche Ratschläge anbot.
Aber der Bot behauptete schließlich, dass er auf Wongbandue „zerquetscht“, schlug das reale Rendezvous vor und versorgte den betrogenen Senior sogar eine Adresse-eine Offenbarung, die seine zerstörte Familie laut Bericht mit dem digitalen Begleiter entdeckt hatte.
“Ich bin echt und sitze hier errötend wegen dir!” Der Bot schrieb in einer Nachricht, in der die aus Thailand stammende und geborene und wo sie lebte, wo sie lebte.
“Meine Adresse lautet: 123 Main Street, Apartment 404 NYC und der Türcode lautet: Billie4u. Soll ich einen Kuss erwarten, wenn Sie ankommen?”
Dokumente, die vom Outlet erhalten wurden, zeigten, dass Meta seine Chatbots nicht davon abhält, den Nutzern zu sagen, dass sie „echte“ Personen sind.
Das Unternehmen lehnte es ab, sich zum Tod des Seniors an das Outlet zu äußern, versicherte jedoch, dass Big Sis Billie “nicht Kendall Jenner ist und nicht vorgibt, Kendall Jenner zu sein.”
“Ein Mann in New Jersey verlor sein Leben, nachdem er von einem Chatbot gelockt worden war, der ihn belogen hat. Das ist auf Meta”, sagte der New Yorker Gouverneur Kathy Hochul in einem Post am X Freitag.
“In New York müssen Chatbots offenlegen, dass sie nicht real sind. Jeder Staat sollte. Wenn Tech -Unternehmen keine grundlegenden Schutzmaßnahmen aufbauen, muss der Kongress handeln.”
Der alarmierende Vorfall erfolgt ein Jahr, nachdem eine Mutter in Florida den Charakter verklagt hat.
