Cosa può e non può fare l'IA: confini onesti
Se un compito si risolve in un secondo e ci sono molti esempi, l'IA lo gestirà. Se è nuovo, sbaglia con sicurezza. Scopri i limiti con auto autonome e medicina, e come decidere se affidare un compito all'IA.
Dalla lezione precedente sai che la forza dell'IA dipende dai suoi dati. Ora tracciamo una mappa onesta dei confini — cosa può fare davvero l'IA e cosa è al di là delle sue possibilità in linea di principio. Questa è la risposta alla domanda «quando non usare l'IA».
La regola principale: il test del secondo
Tieni a mente una semplice regola e ti risparmierà anni di illusioni: se una persona risolve la versione tipica di un compito in circa un secondo di pensiero — e il mondo è pieno di esempi — l'IA probabilmente lo gestirà. Individuare un'auto in una foto, sentire una parola, distinguere lo spam dal non-spam, riconoscere un volto — sono tutti compiti di percezione da «un secondo», e per essi c'è un oceano di dati. Qui l'IA è forte.
Ora il rovescio della medaglia: prevedere il prezzo di un'azione a un mese di distanza dai prezzi passati non è un compito da un secondo e, cosa più importante, i prezzi passati non predicono quelli futuri. Un doppio fallimento: il pensiero richiede molto tempo e comunque non c'è un modello nei dati. La regola è grezza ma affidabile: l'IA è una brillante specialista nel riconoscimento istantaneo, non un saggio che valuta le conseguenze.
Esempi a confronto: cosa può / non può fare
Calibriamoci su due campi in cui sbagliare ha un costo reale.
- Un'auto a guida autonoma. Può: capire da telecamera e radar dove si trovano le altre auto sulla strada — ci sono milioni di esempi etichettati. Ha enormi difficoltà: a leggere il gesto di una persona — un operaio edile che ti fa segno di fermarti, un ciclista che segnala una svolta con un braccio. Ci sono infiniti modi di gesticolare, non puoi raccogliere così tanti esempi, e il costo di sbagliare è una vita.
- Medicina. Può: individuare la polmonite su una radiografia quando ci sono migliaia di immagini etichettate «malato / sano». Non può: imparare una diagnosi da una dozzina di immagini in un libro di testo, come fa uno studente di medicina. Una persona generalizza da pochi esempi; l'IA ne ha bisogno in massa.
La debolezza sottovalutata: scarsa generalizzazione
Ecco un confine di cui quasi nessuno parla. L'IA è forte sui dati simili a quelli che ha visto in addestramento, e fragile su qualsiasi cosa diversa. Prendi un modello addestrato su radiografie pulite di una clinica, spostalo in un'altra dove le immagini sono scattate con un'angolazione diversa su attrezzature diverse con più rumore, e la precisione diminuisce notevolmente.
Un vero medico si adatta a un nuovo ospedale in un giorno; l'IA non può. Ricorda il principio: l'IA non «capisce» il compito, adatta una risposta a esempi familiari — cambia gli esempi e la fiducia crolla. Questo deriva direttamente dalla lezione sui dati: ciò che conta non è solo la qualità dei dati, ma quanto assomigliano al contesto in cui il modello dovrà effettivamente operare.
Perché sembra che l'IA possa fare qualsiasi cosa
Fai attenzione alle notizie. Solo le vittorie dell'IA fanno notizia: ha battuto il campione, ha superato l'esame, ha dipinto un capolavoro. I fallimenti — centinaia di progetti silenziosi in cui l'IA non ha mai decollato — vengono a malapena pubblicati. Questa distorsione è da dove proviene l'illusione di onnipotenza. Un quadro realistico significa tenere a mente anche l'altra metà — quella che nessuno menziona.
Aspetta un secondo: se l'IA potesse prevedere in modo affidabile il prezzo delle azioni di domani, qualcuno ti venderebbe l'accesso per un paio di dollari al mese?
Certo che no — il proprietario si arricchirebbe in silenzio invece. Ogni promessa «l'IA prevederà il mercato» si scontra con questo semplice pensiero. E non avendo trovato alcun modello, il modello fa ciò che descrive la lezione sulle allucinazioni — ti fornisce una previsione sicura e plausibile senza nulla di concreto dietro.
Quattro domande: dovresti affidarlo all'IA?
Prima di affidare un compito alla macchina, poniti quattro domande:
- È un compito da «un secondo» e ci sono molti esempi? Percezione e generazione con molti dati — zona verde.
- I dati assomigliano al contesto in cui l'IA dovrà effettivamente operare? Su qualsiasi cosa diversa, l'IA è fragile.
- Quanto costa sbagliare e puoi controllare il risultato? Costo elevato senza possibilità di controllo — fermati.
- L'IA ha i dati di cui ha bisogno? Qualsiasi cosa recente, privata o molto di nicchia (ricorda il knowledge cutoff) potrebbe non averla mai vista.
Via libera: un compito da un secondo con molti dati simili, un basso costo di errore, un risultato verificabile. Stop: una decisione lenta e con conseguenze, dati sconosciuti, un costo elevato e nessun modo per verificare.
Fallo ora
Un esercizio senza strumenti — solo la tua testa e un foglio di carta. Scrivi cinque compiti reali della tua settimana e sottoponi ciascuno al test del secondo e alle quattro domande di questa lezione. Segna quali affideresti all'IA senza preoccupazioni (riconoscere, riassumere, abbozzare una bozza) e quali manterresti (decisioni in cui sbagliare è costoso, dati nuovi, responsabilità, condizioni sconosciute).
Quell'elenco è la tua mappa personale «delega / tieni». Il meccanismo e i confini sono chiari ora — è tempo di prendere il controllo, ed è a questo che serve il prossimo modulo: prima esamineremo esempi per il tuo settore, poi scriveremo il tuo primo vero prompt.
Short questions on the lesson — with an explanation for every answer.