Co AI potrafi, a czego nie: uczciwe granice

Z ostatniej lekcji wiesz, że siła AI tkwi w jej danych. Teraz nakreślmy uczciwą mapę granic — co AI naprawdę potrafi, a co w zasadzie jest poza jej zasięgiem. To odpowiedź na pytanie „kiedy nie używać AI”.

Główna zasada: test jednej sekundy

Zapamiętaj jedną prostą zasadę, a zaoszczędzisz sobie lat złudzeń: jeśli człowiek rozwiązuje typową wersję zadania w około sekundę namysłu — a świat jest pełen przykładów — AI prawdopodobnie sobie z nim poradzi. Zauważenie samochodu na zdjęciu, usłyszenie słowa, odróżnienie spamu od niespamu, rozpoznanie twarzy — to wszystko są „jednosekundowe” zadania percepcyjne, a danych do nich jest ocean. AI jest tu silna.

A teraz druga strona medalu: przewidywanie ceny akcji za miesiąc na podstawie przeszłych cen nie jest zadaniem na jedną sekundę, a co ważniejsze, przeszłe ceny nie przewidują przyszłych. Podwójna porażka: myślenie zajmuje dużo czasu, a w danych i tak nie ma żadnego wzorca. Zasada jest prosta, ale niezawodna: AI to genialny specjalista od natychmiastowego rozpoznawania, a nie mędrzec ważący konsekwencje.

Przykłady w parach: potrafi / nie potrafi

Skalibrujmy się na dwóch obszarach, gdzie pomyłka ma realną cenę.

• Samochód autonomiczny. Potrafi: określić na podstawie kamery i radaru, gdzie znajdują się inne samochody na drodze — istnieją miliony oznaczonych przykładów. Ogromnie się męczy: z odczytywaniem gestów człowieka — pracownika budowy machającego, żebyś się zatrzymał, rowerzysty sygnalizującego skręt ręką. Istnieją niezliczone sposoby gestykulacji, nie da się zebrać tylu przykładów, a koszt pomyłki to życie.
• Medycyna. Potrafi: wykryć zapalenie płuc na zdjęciu rentgenowskim, gdy istnieją tysiące obrazów oznaczonych jako „chory / zdrowy”. Nie potrafi: nauczyć się diagnozy z kilkunastu zdjęć w podręczniku, tak jak robi to student medycyny. Człowiek uogólnia na podstawie kilku przykładów; AI potrzebuje ich w masie.

Niedoceniana słabość: słabe uogólnianie

Oto granica, o której prawie nikt nie mówi. AI jest silna w przypadku danych podobnych do tych, które widziała podczas treningu, i krucha w przypadku wszystkiego, co jest inne. Weź model wytrenowany na czystych zdjęciach rentgenowskich z jednej kliniki, przenieś go do innej, gdzie obrazy są robione pod innym kątem, na innym sprzęcie i z większym szumem, a dokładność zauważalnie spadnie.

Prawdziwy lekarz adaptuje się do nowego szpitala w jeden dzień; AI nie potrafi. Pamiętaj o zasadzie: AI nie „rozumie” zadania, dopasowuje odpowiedź do znanych przykładów — zmień przykłady, a pewność siebie się rozsypie. To wynika bezpośrednio z lekcji o danych: liczy się nie tylko jakość danych, ale także to, jak bardzo przypominają one środowisko, w którym model będzie faktycznie działał.

Dlaczego wydaje się, że AI potrafi wszystko

Uważaj na wiadomości. Tylko zwycięstwa AI trafiają na pierwsze strony gazet: pokonała mistrza, zdała egzamin, namalowała arcydzieło. Porażki — setki cichych projektów, w których AI nigdy się nie przyjęła — rzadko są publikowane. To zniekształcenie jest źródłem iluzji wszechmocy. Realistyczny obraz oznacza pamiętanie także o drugiej połowie — tej, o której nikt nie wspomina.

Cztery pytania: czy powinieneś to powierzyć AI?

Zanim powierzysz zadanie maszynie, przeanalizuj je, odpowiadając na cztery pytania:

1. Czy to zadanie na „jedną sekundę” i czy jest mnóstwo przykładów? Percepcja i generowanie z dużą ilością danych — zielona strefa.
2. Czy dane przypominają te, w których AI faktycznie będzie działać? W przypadku wszystkiego, co jest inne, AI jest krucha.
3. Ile kosztuje pomyłka i czy możesz sprawdzić wynik? Wysoki koszt bez możliwości sprawdzenia — zatrzymaj się.
4. Czy AI ma potrzebne dane? Wszystko, co jest świeże, prywatne lub bardzo niszowe (pamiętaj o dacie odcięcia wiedzy), mogło nigdy nie zostać przez nią zobaczone.

Zielone światło: zadanie na jedną sekundę z dużą ilością podobnych danych, niskim kosztem błędu, sprawdzalnym wynikiem. Czerwone: powolna, brzemienna w skutki decyzja, nieznane dane, wysoki koszt i brak możliwości weryfikacji.

Zrób to teraz

Ćwiczenie bez narzędzi — tylko twoja głowa i kartka papieru. Zapisz pięć prawdziwych zadań z twojego tygodnia i przeanalizuj każde z nich za pomocą testu jednej sekundy oraz czterech pytań z tej lekcji. Zaznacz, które z nich powierzyłbyś AI bez obaw (rozpoznawanie, podsumowywanie, szkicowanie), a które zatrzymałbyś dla siebie (decyzje, gdzie pomyłka jest kosztowna, świeże dane, odpowiedzialność, nieznane warunki).

Ta lista to twoja osobista mapa „deleguj / zatrzymaj”. Mechanizm i granice są już jasne — czas przejąć kontrolę, do czego służy następny moduł: najpierw przyjrzymy się przykładom z twojej branży, a potem napiszesz swój pierwszy prawdziwy prompt.