Lunedì uno sviluppatore utilizza il famoso editore di dimensioni della recitazione Indicatore Ho notato qualcosa di strano: il passaggio tra le macchine immediatamente registrate e ha rotto il flusso di lavoro congiunto per i programmatori che utilizzano più dispositivi. Quando l’utente ha contattato l’indice, un agente denominato “SAM” ha detto loro che il comportamento previsto in una nuova politica. Ma non era una tale politica, ed era Sam Robot. Il modello di intelligenza artificiale ha sollevato la politica, che ha scatenato un’ondata di lamentele e ha documentato minacce di cancellazione Notizie di hacker E Ho risposto.
Ciò rappresenta la sintesi più recente dell’intelligenza artificiale (chiamata anche “allucinazioni”), causando possibili danni agli affari. Confabulats è un tipo di “riempimento del divario creativo” in cui i modelli di intelligenza artificiale inventano ragionevoli ma false informazioni. Invece di ammettere incertezza, i modelli di intelligenza artificiale spesso danno la priorità alla creazione di risposte sicure, anche quando ciò significa produzione di informazioni dal punto zero.
Per le aziende che pubblicano questi sistemi nei ruoli che affrontano i clienti senza supervisionare l’essere umano, le conseguenze possono essere immediate e costose: clienti frustrati, fiducia danneggiata e, nel caso dell’indicatore, sono state cancellate.
Come hai rivelato
L’incidente è iniziato quando viene chiamato un utente di brokentoassteroven Reddit ho notato È durante il passaggio tra il desktop, il laptop e la telecomando Dave, le sessioni dell’indicatore sono state inaspettatamente completate.
“Accedi all’indice su uno dei dispositivi, immediatamente In seguito è stato eliminato Mediante indicatore di supervisione. “Questa è l’importante pendenza UX.”
Confuso sul suo comando e frustrazione, l’utente ha scritto un’e -mail al supporto dell’indice e riceve una risposta da SAM: “L’indice è progettato per funzionare con un dispositivo per ogni abbonamento come funzionalità di sicurezza di base”, leggi la risposta e -mail. La risposta sembrava finale e ufficiale e l’utente non dubitava che Sam non fosse umano.
Dopo la pubblicazione iniziale di Reddit, gli utenti hanno preso questo post come conferma ufficiale per modificare la politica effettiva, che ha rotto le abitudini necessarie per molti routine quotidiane di molti programmatori. “Il flusso di lavoro multi -device è un tavolo caldo.”
Poco dopo, molti utenti hanno annunciato pubblicamente la cancellazione dell’abbonamento Reddit, riferendosi alla politica non esistente. “Ho appena eliminato il mio sottomarino”, aggiungendo che il loro posto di lavoro ora è “pulito completamente”. Altri si sono uniti: “Sì, anche io sono cancellato, questo è asinino”. Poco dopo, i supervisori hanno chiuso il tema di Reddit e hanno rimosso la pubblicazione originale.
