La shadow AI è l'utilizzo o l'integrazione non autorizzati dell'IA da parte di dipendenti e appaltatori di un'organizzazione. La shadow AI può esporre le organizzazioni a rischi di sicurezza sconosciuti.
Dopo aver letto questo articolo sarai in grado di:
Copia link dell'articolo
Per shadow AI si intende l'uso non autorizzato e non tracciato dell'intelligenza artificiale (IA) da parte dei membri di un'organizzazione. La shadow AI può rappresentare un problema di sicurezza perché amplia la superficie d'attacco dell'organizzazione senza che i team di sicurezza se ne accorgano e perché aumenta le probabilità di una fuga di dati, a seconda delle informazioni a cui possono accedere tali modelli di intelligenza artificiale.
Può inoltre ostacolare gli obiettivi strategici generali di un'organizzazione. L'uso di strumenti di intelligenza artificiale non ottimizzati con dati interni tramite generazione aumentata per il recupero (RAG) può fornire risposte non ottimali per l'azienda. Ad esempio, un report prodotto da uno strumento di intelligenza artificiale privo di contesto cruciale sulla posizione di un'azienda sul mercato potrebbe fornire raccomandazioni non realistiche o inutili.
La shadow AI è estremamente comune. I dipendenti che desiderano aumentare la propria produttività adottano spesso strumenti di intelligenza artificiale senza preoccuparsi della loro approvazione o addirittura sapendo che stanno esponendo la propria organizzazione a rischi. Alcuni studi hanno scoperto decine di strumenti di intelligenza artificiale non autorizzati in uso anche in aziende sottoposte a rigidi controlli. Fortunatamente, le organizzazioni possono adottare delle misure per ridurre i rischi, consentendo al contempo ai dipendenti di sfruttare al meglio questi strumenti straordinariamente potenti.
Esistono due categorie principali di utilizzo della shadow AI:
Il primo coinvolge dipendenti e appaltatori che incorporano l'utilizzo dell'intelligenza artificiale nei loro flussi di lavoro ordinari. Ad esempio, un membro del reparto marketing potrebbe caricare un database di informazioni sui potenziali clienti su un LLM come ChatGPT e chiedere un rapporto, ignaro che ciò potrebbe costituire una violazione della sicurezza.
Quest’ultimo coinvolge gli sviluppatori che creano modelli di intelligenza artificiale in applicazioni rivolte al pubblico senza autorizzazione o supervisione adeguata, in modo simile a quando gli endpoint API shadow sono integrati nelle applicazioni. Immagina uno sviluppatore che utilizza ChatGPT per guidare un chatbot aziendale ufficiale senza approvazione. Sebbene la stessa OpenAI incorpori protezioni di sicurezza e contenuti nei propri modelli, il chatbot potrebbe comunque comportarsi in modi che l'organizzazione non prevede, ad esempio consigliando i prodotti di un concorrente.
Lo shadow IT si riferisce all’uso non autorizzato o non gestito della tecnologia, in particolare delle app SaaS. Lo shadow IT prevede sia l’uso di strumenti non approvati che l’accesso a strumenti approvati in modo non approvato (un esempio di quest’ultimo potrebbe essere l’accesso a uno strumento di lavoro ufficiale tramite un account personale).
Molti strumenti software sono economici o gratuiti, prontamente disponibili su Internet e vantaggiosi per la produttività. Pertanto, se uno strumento può aiutare a lavorare più velocemente o se lunghi processi di approvazione legale impediscono di adottare gli strumenti di cui si ha bisogno, i dipendenti potrebbero aggirare i canali ufficiali.
La shadow AI è un tipo di shadow IT, ma in rapida crescita, sempre più attraente per dipendenti e appaltatori grazie ai rapidi miglioramenti della produttività che promette.
Esistono due rischi principali quando dipendenti e appaltatori utilizzano strumenti di shadow AI:
La totalità dei potenziali punti di ingresso disponibili per un utente malintenzionato è chiamata superficie d'attacco. La superficie d'attacco non può essere difesa se i team di sicurezza non ne conoscono la piena estensione. Gli strumenti di intelligenza artificiale, come qualsiasi applicazione, presentano rischi e vulnerabilità per la sicurezza. Pertanto, utilizzarli per elaborare dati interni o integrarli in stack software e processi aziendali espone l'organizzazione a tali vulnerabilità.
Ciò è meno preoccupante quando i team di sicurezza sanno quali sono e dove si trovano i rischi; tuttavia, se uno strumento di intelligenza artificiale viene adottato a loro insaputa, non possono proteggerlo. Immagina il caveau di una banca con una porta sul retro aggiunta da un dipendente, che collega direttamente il suo ufficio al caveau, in modo che il dipendente possa semplificare i processi lavorativi. Le guardie di sicurezza non sanno della seconda porta. Poiché non conoscono la porta, il team di sicurezza non può sorvegliare la porta né aggiungere serrature. L'uso non autorizzato di qualsiasi tecnologia, compresi gli strumenti di intelligenza artificiale, equivale ad aggiungere ulteriori porte non protette al caveau di dati dell'azienda, ampliando la superficie di attacco.
L'altro grande rischio è l'esposizione di dati sensibili. I dati sensibili possono includere proprietà intellettuale, dati dei clienti o dati personali dei dipendenti. I dipendenti possono caricare tali dati negli strumenti di intelligenza artificiale per svolgere attività lavorative e, soprattutto se gli strumenti non sono gestiti, tali dati potrebbero essere esposti ad altri utenti degli strumenti che non fanno parte dell'organizzazione. Anche se i dati non vengono esposti direttamente ad altri utenti, potrebbero risiedere nel database dello strumento di intelligenza artificiale, che può esporli in caso di violazione dei dati, esporli a soggetti esterni o mettere un'organizzazione fuori dalla conformità alle normative sulla sicurezza e sulla privacy dei dati.
I modelli di intelligenza artificiale possono essere integrati nell'infrastruttura applicativa tramite le API. In una struttura di questo tipo, l'applicazione principale, quando è in esecuzione, invia una chiamata API a uno strumento di intelligenza artificiale, che risponde con il servizio o i dati richiesti. Se l'integrazione di questa API non viene monitorata o protetta, il modello IA viene considerato un endpoint di shadow AI.
I rischi degli endpoint di shadow AI comprendono:
Molte organizzazioni potrebbero voler consentire ai propri sviluppatori di sperimentare modelli di intelligenza artificiale durante il processo di sviluppo. Ma scoprire e proteggere gli endpoint di shadow AI è essenziale per consentire a tali esperimenti di procedere in sicurezza.
La "shadow AI economy", o economia sommersa dell'IA, è l'idea che l'uso dell'IA negli ambienti aziendali sia sottostimato e non contabilizzato poiché tanti lavoratori la usano senza permesso. Di conseguenza, il ritorno sull'investimento (ROI) derivante dall'adozione dell'intelligenza artificiale da parte delle aziende potrebbe essere superiore al valore "reale".
I team di sicurezza possono tentare di rilevare l'utilizzo di strumenti di shadow AI con metodi simili per rilevare altri usi non autorizzati di applicazioni. Possono monitorare il traffico di rete a livello applicazione con il riconoscimento delle applicazioni, una capacità offerta dai firewall di nuova generazione (NGFW) e altri strumenti proxy di sicurezza. E possono monitorare le query DNS utilizzando il filtro DNS per vedere a quali app accedono i dipendenti. Anche le funzionalità di Cloud Access Security Broker (CASB) e di prevenzione della perdita di dati (DLP) aiutano a limitare la destinazione dei dati sensibili. Consulta AI Security Suite per saperne di più.
Per gli endpoint IA non protetti, il rilevamento della shadow AI è l'opzione più efficiente. AI Security for Apps di Cloudflare rileva tutti gli endpoint shadow AI aggiunti alle app all'insaputa del team di sicurezza. I clienti possono ottenere una visibilità completa su quali LLM sono in esecuzione e dove. Scopri di più su AI Security for Apps.
Shadow AI si riferisce all’uso di strumenti di intelligenza artificiale da parte di dipendenti o appaltatori senza l’autorizzazione o la supervisione ufficiale dei team IT e di sicurezza della propria organizzazione. Questa pratica è sempre più comune, dato che i lavoratori adottano strumenti di intelligenza artificiale accessibili per migliorare rapidamente la propria produttività o estendere le capacità delle applicazioni rivolte al pubblico.
L’utilizzo di strumenti di intelligenza artificiale non autorizzati crea punti di ingresso non protetti ai dati privati di un’azienda, il che espande l’area totale che un aggressore può prendere di mira. Poiché i team di sicurezza non sono a conoscenza di questi strumenti, non possono implementare le difese necessarie per proteggere le informazioni elaborate.
Quando i dipendenti caricano la proprietà intellettuale o i dati dei clienti in strumenti di IA non gestiti, tali informazioni possono essere archiviate in un database esterno o condivise inavvertitamente con altri utenti esterni all'organizzazione. Tale esposizione può comportare violazioni della conformità normativa o lasciare i dati vulnerabili se il fornitore di servizi IA subisce una violazione.
Gli strumenti di intelligenza artificiale che non sono ottimizzati con i dati interni di un'azienda possono produrre risultati non ottimali o non realistici perché mancano di un contesto specifico per quanto riguarda la posizione di mercato dell'azienda.
L’integrazione dell’intelligenza artificiale tramite API non monitorate può comportare rischi di avvelenamento del modello quando l’intelligenza artificiale contiene dati precedentemente danneggiati o iniezione rapida, in cui attività dannose fanno sì che il modello si comporti in modo imprevisto. Esiste anche un rischio reputazionale; ad esempio, un chatbot non governato potrebbe erroneamente offrire sconti non autorizzati ai clienti.