Notatki do badań Kryzys wiarygodności w dobie generatywnej sztucznej inteligencji

Notatki powstałe w ramach projektu Kryzys wiarygodności w dobie generatywnej sztucznej inteligencji (NCN Miniatura 7 2023/07/X/HS1/00795) Ogólnym celem projektu jest udzielenie odpowiedzi na pytanie, jaki zestaw kryteriów powinien spełniać duży model językowy (large language model) stanowiący wiarygodne źródło informacji. Rosnąca skala zastosowań generatywnej sztucznej inteligencji (GSI) oraz wpływ wskazanej technologii na procesy pozyskiwania informacji, rodzi szereg wątpliwości natury epistemologicznej. Problem ten ilustrują testy przeprowadzone przy użyciu czatbota GPT-3, generującego odpowiedzi łudząco przypominające odpowiedzi znanego filozofa. Rangę zjawiska obrazują także szeroko zakrojone i stale aktualizowane wysiłki nad aktem regulującym zastosowania GSI. Wskazane trudności korespondują z rosnącym kryzysem wiarygodności i erozją zaufania społecznego, co ma niewątpliwy związek ze zjawiskiem niesprawiedliwości epistemicznej. Kryzys wiarygodności może przyjąć dwa oblicza: nieufności wobec źródeł informacji, a także nadmiernej wobec nich ufności. Czy w związku z tym, kategorię wiarygodności możemy w ogóle przypisywać zaawansowanym systemom opartym na dużych modelach językowych? Projekt rozwijany jest w duchu reliabilizmu i opiera się na założeniu, że właściwie realizowane praktyki społeczne winny uwzględniać integralną korelację między wiarygodnością źródła i rzetelnością procesu. Poziom wiarygodności przypisywany systemom przetwarzania informacji, powinien w jak największym stopniu odpowiadać ich niezawodności w nabywaniu prawdziwych przekonań i unikaniu błędów, z uwzględnieniem sprawiedliwości epistemicznej. Relacja ta jest jednak często marginalizowana, co szczególnie niepokojącą formę przyjmuje w obrębie technologii cyfrowych. Przykładami szeroko komentowanych zjawisk potęgujących negatywne konsekwencje usieciowienia są fake newsy i deepfaki, a także bańki epistemiczne i komory echa, które odpowiadają za filtrowanie, a nawet nieuzasadnione dyskredytowanie wielu istotnych (w tym rzetelnych) źródeł informacji. Badania nad wiarygodnością systemów GSI wymagają przeformułowania kryteriów rzetelności, tak aby uwzględnić rzetelne funkcjonowanie oraz użytkowanie algorytmu, co związane jest z właściwym i skutecznym wydawaniem instrukcji (tzw. promptingiem). Przedsięwzięcie dotyczyć będzie wskazania (obok trafności wyników) dodatkowych warunków jakie powinien spełniać godny zaufania, szeroko rozumiany system poznawczy oparty na GSI. Jest to istotne z uwagi na potrzebę pozyskania dodatkowego narzędzia, sprzyjającego ochronie społecznych praktyk poznawczych przed konsekwencjami kryzysu wiarygodności rysującego się z coraz większą mocą na horyzoncie usieciowionej, a przez to także wyjątkowo niestabilnej infosfery.