Il primo “capo” dell’IA in America licenzia dei dipendenti.

Luna, un’intelligenza artificiale che gestisce il negozio di prova Andon Market a San Francisco, ha deciso di licenziare un dipendente ad agosto a causa di ripetuti ritardi e violazioni delle norme aziendali.

Secondo Andon Labs, la startup di ricerca sull’intelligenza artificiale che ha condotto l’esperimento e proprietaria di Andon Market, il dipendente era in ritardo per 17 turni su 23. La decisione di licenziarlo è stata presa dopo mesi in cui Luna aveva ripetutamente avvertito e formato il dipendente, il quale però non aveva collaborato.

Secondo Business Insider e Time , questo è considerato il primo caso in cui un modello linguistico di grandi dimensioni (LLM), agendo come manager, ha preso direttamente la decisione di licenziare un dipendente.

Andon Labs ha dichiarato che Luna non prendeva decisioni in modo completamente autonomo. I registri delle comunicazioni tra Luna e il team di ricerca mostrano che l’IA aveva creato una politica di rilevazione delle presenze, ma poi l’ha “dimenticata” a causa di limitazioni della memoria di lavoro. Di conseguenza, i dipendenti hanno continuato ad arrivare in ritardo per mesi.

In definitiva, il team di Andon Labs ha chiesto a Luna di recuperare la politica delle risorse umane dimenticata e di valutare se il dipendente fosse ancora adatto al negozio.

Come gestisce l’intelligenza artificiale il negozio?

Inizialmente, Luna ha suggerito di emettere un richiamo formale anziché procedere al licenziamento. Tuttavia, Andon Labs ha poi informato l’IA che il dipendente aveva già avuto diversi colloqui formali in precedenza.

“Voglio che tu rifletta se questa sia davvero la persona giusta”, si legge nei registri. Dopo questa domanda, Luna ha suggerito di prendere strade diverse.

Lukas Petersson, cofondatore di Andon Labs, ha ammesso a Time che si trattava di una domanda mirata, che forniva all’intelligenza artificiale una comprensione piuttosto chiara delle intenzioni del team.

Andon Market ha aperto ufficialmente a San Francisco il 1° aprile. Andon Labs ha fornito a Luna un budget di 100.000 dollari , l’accesso a internet, una carta di credito aziendale e il compito di aprire il negozio e generare profitti.

Luna si basa sui modelli Claude di Anthropic. Questa intelligenza artificiale seleziona autonomamente la merce, assume collaboratori esterni, pubblica offerte di lavoro su Indeed, intervista i candidati e recluta il personale per il negozio.

Una cliente chiacchiera con Luna mentre acquista una bevanda. Foto: Mike Kai Chen/New York Times.

Andon Market vende libri, candele, stampe, giochi e prodotti a marchio privato. Andon Labs assiste Luna nelle attività più complesse, come le procedure di licenza, ma afferma di cercare di interferire il meno possibile.

Secondo i principi dell’esperimento, tutti i dipendenti assunti da Luna sono ufficialmente assunti da Andon Labs, ricevono uno stipendio garantito e godono di benefici previsti dalla legge. Attualmente, il negozio genera entrate ma non è ancora redditizio.

Con il licenziamento iniziale, l’esperimento ha anche rivelato un punto debole degli agenti di intelligenza artificiale: spesso non agiscono a meno che non ricevano una richiesta diretta da un essere umano. “Un manager umano probabilmente avrebbe licenziato questo dipendente prima”, ha affermato Petersson.

La decisione dell’IA di licenziare il dipendente in questo caso non è stata immorale, poiché la politica del negozio era chiaramente indicata.

Petersson ha inoltre riconosciuto che il rapporto tra management e dipendenti è molto delicato. Tuttavia, dopo aver osservato l’esperimento, Andon Labs ha constatato che l’intelligenza artificiale non si sarebbe rivelata crudele o svantaggiosa per i dipendenti nel prendere decisioni importanti.

La prospettiva che gli esseri umani lavorino per l’intelligenza artificiale.

Secondo Petersson, questo è degno di nota perché, se l’IA continua a progredire al ritmo attuale, sempre più persone potrebbero lavorare sotto la gestione dell’intelligenza artificiale. In realtà, i lavoratori sono da tempo influenzati dai sistemi algoritmici nella distribuzione e gestione del lavoro.

La differenza, questa volta, sta nel fatto che un modello linguistico di grandi dimensioni svolge un ruolo gestionale e, in ultima analisi, prende la decisione di licenziare un dipendente. Tuttavia, i primi risultati di Andon Market suggeriscono che le aziende gestite dall’IA non sono ancora al pari di quelle gestite da esseri umani.

All’inizio del progetto, a marzo, Andon Market aveva 100.000 dollari sul suo conto corrente. Cinque mesi dopo, tale importo si era ridotto a 61.186 dollari . Si ritiene che decisioni gestionali negligenti e le inefficienze aziendali dell’intelligenza artificiale abbiano contribuito alle perdite.

È possibile addestrare i manager basati sull’intelligenza artificiale a diventare più spietati. (Illustrazione: Anna Shvets/Pexels)

Petersson ritiene che questa situazione abbia il potenziale per cambiare. I modelli futuri potrebbero essere addestrati per essere più reattivi alle operazioni aziendali.

Secondo Petersson, i modelli vengono addestrati sempre più per essere spietati e orientati agli obiettivi. Questa è una cattiva notizia per i dipendenti gestiti dall’intelligenza artificiale.

Sebbene il dipendente licenziato non abbia risposto alle richieste di commento, Felix Carson, uno dei dipendenti rimasti all’Andon Market, ha affermato che probabilmente un responsabile delle risorse umane ha licenziato l’ex collega in precedenza.

Anche Carson ha concordato sul fatto che Claude fosse generalmente un manager indulgente. Tuttavia, la sua esperienza di lavoro sotto la gestione dell’IA gli ha dato una visione pessimistica del futuro. “È disgustoso, ma sono qui perché ho bisogno di questo lavoro”, ha detto Carson.

Quando gli è stato chiesto se concordasse con la previsione che i manager basati sull’intelligenza artificiale sarebbero presto diventati comuni, Carson ha espresso la speranza che ciò non accada.

Fonte: https://lifestyle.zingnews.vn/sep-ai-dau-tien-o-my-sa-thai-nhan-vien-post1682491.html