Ludzki umysł przez długi, długi czas pozostawał niewytłumaczalny i tajemniczy. Wygląda na to, że naukowcy rozpoznali nowego pretendenta do tej listy – sztuczną inteligencję (AI). Na początku zrozumienie umysłu sztucznej inteligencji brzmi raczej oksymoronicznie. Jednak w miarę jak sztuczna inteligencja stopniowo staje się coraz bardziej świadoma i ewoluuje w kierunku naśladowania ludzi i ich emocji, jesteśmy świadkami zjawiska wrodzonego ludziom i zwierzętom – halucynacji.
Tak, wydaje się, że tej samej podróży, w którą wyrusza umysł porzucony na pustyni, wyrzucony na wyspę lub zamknięty samotnie w pokoju pozbawionym okien i drzwi, doświadczają również maszyny. Halucynacja AI jest prawdziwy, a eksperci i entuzjaści technologii odnotowali wiele obserwacji i wniosków.
W dzisiejszym artykule przyjrzymy się temu tajemniczemu, ale intrygującemu aspektowi Modele dużych języków (LLM) i poznaj dziwaczne fakty na temat halucynacji AI.
Co to jest halucynacja AI?
W świecie sztucznej inteligencji halucynacje nie odnoszą się mgliście do wzorów, kolorów, kształtów ani osób, które umysł może jasno wizualizować. Zamiast tego halucynacje odnoszą się do nieprawidłowych, nieodpowiednich, a nawet wprowadzających w błąd faktów i odpowiedzi Generatywne narzędzia sztucznej inteligencji wymyśl podpowiedzi.
Wyobraź sobie na przykład, że pytasz model sztucznej inteligencji, czym jest kosmiczny teleskop Hubble’a, a on zaczyna odpowiadać odpowiedzią w stylu: „Kamera IMAX to wyspecjalizowany film o wysokiej rozdzielczości…”.
Ta odpowiedź jest nieistotna. Ale co ważniejsze, dlaczego model wygenerował odpowiedź, która różni się stycznie od przedstawionego podpowiedzi? Eksperci uważają, że halucynacje mogą wynikać z wielu czynników, takich jak:
- Niska jakość danych szkoleniowych AI
- Zbyt pewne modele sztucznej inteligencji
- Złożoność programów do przetwarzania języka naturalnego (NLP).
- Błędy kodowania i dekodowania
- Ataki kontradyktoryjne lub hacki modeli AI
- Rozbieżność źródeł i źródeł
- Błąd wejściowy lub niejednoznaczność sygnału wejściowego i nie tylko
Halucynacja AI jest niezwykle niebezpieczna, a jej intensywność wzrasta wraz ze wzrostem specyfikacji jej zastosowania.
Na przykład wywołujące halucynacje narzędzie GenAI może spowodować utratę reputacji przedsiębiorstwa, które je wdraża. Jednak wdrożenie podobnego modelu sztucznej inteligencji w sektorze takim jak opieka zdrowotna zmienia równanie życia i śmierci. Wyobraź sobie, że jeśli model sztucznej inteligencji ma halucynacje i generuje odpowiedź na analizę danych z raportów z obrazowania medycznego pacjenta, może przypadkowo zgłosić guz łagodny jako złośliwy, co spowoduje odchylenie od przebiegu diagnozy i leczenia danej osoby.
Zrozumienie przykładów halucynacji AI
Halucynacje AI są różnego rodzaju. Rozumiemy niektóre z najbardziej znanych.
Faktycznie błędna odpowiedź na informację
- Fałszywie pozytywne odpowiedzi, takie jak oznaczanie poprawnej gramatyki w tekście jako niepoprawnej
- Fałszywie negatywne reakcje, takie jak przeoczanie oczywistych błędów i przekazywanie ich jako autentycznych
- Wymyślanie nieistniejących faktów
- Nieprawidłowe źródło informacji lub manipulowanie cytatami
- Nadmierna pewność siebie w udzielaniu błędnych odpowiedzi. Przykład: Kto śpiewał „Here Comes Sun”? Metallica.
- Mieszanie pojęć, nazw, miejsc lub zdarzeń
- Dziwne lub przerażające reakcje, takie jak popularny demoniczny, autonomiczny śmiech Alexy i nie tylko
Zapobieganie halucynacjom AI
Dezinformacja generowana przez sztuczną inteligencję dowolnego typu mogą zostać wykryte i naprawione. Na tym polega specjalność pracy z AI. Wymyśliliśmy to i możemy to naprawić. Oto kilka sposobów, w jakie możemy to zrobić.
Ograniczające odpowiedzi
Mówią, że nie ma znaczenia, iloma językami mówimy. Musimy wiedzieć, kiedy przestać w nich wszystkich mówić. Dotyczy to również modeli sztucznej inteligencji i ich reakcji. W tym kontekście możemy ograniczyć zdolność modelu do generowania odpowiedzi na określony wolumen i zmniejszyć ryzyko wystąpienia dziwnych wyników. Nazywa się to regularyzacją i obejmuje również karanie modeli sztucznej inteligencji za tworzenie ekstremalnych i rozciągniętych wyników w odpowiedzi na podpowiedzi.
Odpowiednie i hermetyczne źródła, w których można cytować i wyodrębniać odpowiedzi
Trenując model sztucznej inteligencji, możemy również ograniczyć źródła, do których model może się odwoływać i z których może wydobywać informacje, do tylko legalnych i wiarygodnych. Na przykład modele sztucznej inteligencji w służbie zdrowia, takie jak ten omówiony wcześniej, mogą odnosić się tylko do źródeł wiarygodnych pod względem informacji obciążonych obrazami medycznymi i technologiami obrazowania. Uniemożliwia to maszynom znajdowanie i powiązanie wzorców ze źródeł dwubiegunowych oraz generowanie odpowiedzi.
Definiowanie celu modelu AI
Modele AI szybko się uczą i trzeba im tylko dokładnie powiedzieć, co mają robić. Dokładnie definiując cel modeli, możemy wyszkolić modele w zakresie rozumienia ich własnych możliwości i ograniczeń. Umożliwi im to autonomiczną weryfikację swoich odpowiedzi poprzez dostosowanie wygenerowanych odpowiedzi do podpowiedzi użytkownika i ich celu, jakim jest zapewnienie czystych wyników.
Nadzór ludzki w AI
Szkolenie systemów sztucznej inteligencji jest tak samo ważne, jak nauczenie dziecka pływania lub jazdy na rowerze po raz pierwszy. Wymaga nadzoru osoby dorosłej, umiaru, interwencji i trzymania się za rękę. Większość halucynacji związanych ze sztuczną inteligencją wynika z zaniedbań człowieka na różnych etapach rozwoju sztucznej inteligencji. Oddelegowując odpowiednich ekspertów i zapewniając spójny przepływ pracy w celu walidacji i analizy reakcji sztucznej inteligencji, można osiągnąć wysokiej jakości wyniki. Poza tym modele można dalej udoskonalać pod kątem dokładności i precyzji.
Shaip i nasza rola w zapobieganiu halucynacjom AI
Jednym z innych największych źródeł halucynacji są słabe dane szkoleniowe dotyczące sztucznej inteligencji. To, czym karmisz, jest tym, co dostajesz. Dlatego Shaip podejmuje proaktywne kroki, aby zapewnić dostarczanie danych najwyższej jakości generatywne szkolenia AI wymagania.
Nasze rygorystyczne protokoły zapewniania jakości i zbiory danych pozyskiwane w sposób etyczny idealnie nadają się do realizacji Twoich wizji sztucznej inteligencji w zakresie zapewniania czystych wyników. Chociaż usterki techniczne można rozwiązać, ważne jest, aby obawy dotyczące jakości danych szkoleniowych zostały rozwiązane na poziomie podstawowym, aby zapobiec konieczności ponownego opracowania modelu od zera. Dlatego Twoje Sztuczna inteligencja i LLM faza uczenia powinna rozpocząć się od zbiorów danych z Shaip.
