Bibliografia : Kryzys wiarygodności w dobie generatywnej sztucznej inteligencji

Bibliografia do projektu Kryzys wiarygodności w dobie generatywnej sztucznej inteligencji . Ogólnym celem projektu jest udzielenie odpowiedzi na pytanie, jaki zestaw kryteriów powinien spełniać duży model językowy (large language model) stanowiący wiarygodne źródło informacji. Rosnąca skala zastosowań generatywnej sztucznej inteligencji (GSI) oraz wpływ wskazanej technologii na procesy pozyskiwania informacji, rodzi szereg wątpliwości natury epistemologicznej. Problem ten ilustrują testy przeprowadzone przy użyciu czatbota GPT-3, generującego odpowiedzi łudząco przypominające odpowiedzi znanego filozofa. Rangę zjawiska obrazują także szeroko zakrojone i stale aktualizowane wysiłki nad aktem regulującym zastosowania GSI. Wskazane trudności korespondują z rosnącym kryzysem wiarygodności i erozją zaufania społecznego, co ma niewątpliwy związek ze zjawiskiem niesprawiedliwości epistemicznej. Kryzys wiarygodności może przyjąć dwa oblicza: nieufności wobec źródeł informacji, a także nadmiernej wobec nich ufności. Czy w związku z tym, kategorię wiarygodności możemy w ogóle przypisywać zaawansowanym systemom opartym na dużych modelach językowych? Projekt rozwijany jest w duchu reliabilizmu i opiera się na założeniu, że właściwie realizowane praktyki społeczne winny uwzględniać integralną korelację między wiarygodnością źródła i rzetelnością procesu. Poziom wiarygodności przypisywany systemom przetwarzania informacji, powinien w jak największym stopniu odpowiadać ich niezawodności w nabywaniu prawdziwych przekonań i unikaniu błędów, z uwzględnieniem sprawiedliwości epistemicznej. Relacja ta jest jednak często marginalizowana, co szczególnie niepokojącą formę przyjmuje w obrębie technologii cyfrowych. Przykładami szeroko komentowanych zjawisk potęgujących negatywne konsekwencje usieciowienia są fake newsy i deepfaki, a także bańki epistemiczne i komory echa, które odpowiadają za filtrowanie, a nawet nieuzasadnione dyskredytowanie wielu istotnych (w tym rzetelnych) źródeł informacji. Badania nad wiarygodnością systemów GSI wymagają przeformułowania kryteriów rzetelności, tak aby uwzględnić rzetelne funkcjonowanie oraz użytkowanie algorytmu, co związane jest z właściwym i skutecznym wydawaniem instrukcji (tzw. promptingiem). Przedsięwzięcie dotyczyć będzie wskazania (obok trafności wyników) dodatkowych warunków jakie powinien spełniać godny zaufania, szeroko rozumiany system poznawczy oparty na GSI. Jest to istotne z uwagi na potrzebę pozyskania dodatkowego narzędzia, sprzyjającego ochronie społecznych praktyk poznawczych przed konsekwencjami kryzysu wiarygodności rysującego się z coraz większą mocą na horyzoncie usieciowionej, a przez to także wyjątkowo niestabilnej infosfery. Projekt zrealizowano w ramach grantu NCN Miniatura 7, 2023/07/X/HS1/00795生成式人工智能时代可信度危机研究项目参考文献 本项目的总体目标为解答如下问题：作为可信信息来源的大语言模型（Large Language Model, LLM）应当满足何种标准体系。生成式人工智能（Generative AI, GSI）的应用规模不断扩张，且该技术对信息获取流程产生的深远影响，引发了一系列认识论层面的质疑。借助生成模仿知名哲学家口吻的聊天机器人GPT-3所开展的测试，便可直观体现这一问题。全球范围内持续推进且不断更新的生成式人工智能监管法案制定工作，同样凸显了该现象的重要性。上述困境与不断加剧的可信度危机及社会信任滑坡高度相关，而这无疑与认知不公现象存在紧密联系。可信度危机可呈现两种面向：一是对信息来源的不信任，二是对信息来源的过度信任。那么，我们能否将可信度这一范畴赋予基于大语言模型构建的先进系统？本项目秉持可靠主义研究范式，其核心假设为：合理开展的社会实践应当兼顾信息来源可信度与流程可靠性之间的内在关联。赋予信息处理系统的可信度等级，应当尽可能匹配其获取真实信念、规避错误的可靠程度，同时需纳入认知公平的考量维度。然而，这一关联往往被边缘化，在数字技术领域更呈现出尤为令人担忧的态势。虚假新闻、深度伪造（deepfake），以及认知茧房与回声室效应，均为广受热议的现象，它们加剧了网络化进程带来的负面后果——这些现象会对诸多重要（包括可靠的）信息来源进行筛选，甚至予以无端抹黑。针对生成式人工智能系统可信度的研究，需要重新审视可靠性标准，以涵盖算法的可靠运行与合理使用，而这又与合理且有效的指令调用（即提示工程（Prompting））密切相关。本项目将明确：除结果准确性之外，基于生成式人工智能构建的、可被广泛信任的认知系统，还需满足哪些额外条件。此举的必要性在于，我们亟需开发新的工具，以保护社会认知实践免受可信度危机的冲击——当前，在高度网络化且因此极度不稳定的信息域中，这场危机正愈演愈烈。 本项目由波兰国家科学中心（NCN）Miniatura 7号项目资助（项目编号：2023/07/X/HS1/00795）完成。