Halucynacje AI: co to jest i jak ich unikać?
Halucynacja to odpowiedź, która brzmi wiarygodnie, ale jest nieprawdziwa. Model nie kłamie celowo: przewiduje słowa, a nie sprawdza fakty.
Skąd się biorą
Model językowy układa najbardziej prawdopodobny ciąg słów. Gdy nie ma danych, nie zawsze powie „nie wiem”. Potrafi dopisać coś, co pasuje do wzorca.
Przykłady z pracy
- numer artykułu ustawy, który nie istnieje albo mówi o czymś innym
- cytat przypisany osobie, która tego nie powiedziała
- wynik obliczeń z błędem w środku
- nieistniejąca książka albo wyrok w bibliografii
Jak je ograniczyć
- Daj źródło. Wgraj dokument i każ odpowiadać tylko na jego podstawie.
- Proś o przypisy. Odpowiedź ze wskazaniem fragmentu łatwo sprawdzić.
- Pozwól nie wiedzieć. Dopisz: „jeśli nie masz pewności, powiedz to wprost”.
- Dziel zadania. Krótsze kroki dają mniej miejsca na błąd.
- Sprawdzaj liczby, daty, nazwiska i przepisy w źródle, zawsze.
Ćwiczenie ze szkoleń
Uczestnicy dostają odpowiedź modelu z trzema ukrytymi błędami i szukają ich w dokumencie źródłowym. Po takim ćwiczeniu nikt już nie kopiuje wyniku bez czytania.
Szymon Alaba, trener AI. Tekst oparty na materiałach z moich szkoleń.
Zapytaj o termin