Sztuczne „inteligencja” pożera KULTURĘ

Opublikowany przez

Giganci AI

masowo wykupują

i niszczą stare książki.

Trwa wielkie skanowanie

Sztuczna inteligencja zastępuje naszą własną

Krzysztof Sulikowski geekweek/sztuczna-inteligencja/news-giganci-ai-masowo-wykupuja-i-niszcza-stare-ksiazki

Giganci na rynku AI znaleźli nowe źródło danych: używane książki drukowane. Z powodu wyczerpania zasobów internetu firmy skupują z antykwariatów całe palety tomów. Prowadzone jest tzw. skanowanie destrukcyjne, co oznacza, że po zakupie książki są niszczone, a ich strony – wgrywane do modeli językowych (LLMs) jako unikalny, „nieskażony” ingerencją algorytmów tekst. Szacuje się, że z rynku zniknęły już 3 mln woluminów. Precedensowe wyroki w USA uznały ten proceder za legalny, co budzi obawy wokół prywatyzacji dziedzictwa kulturowego, cenzury i utraty pamięci zbiorowej.

Sztuczna inteligencja wchłonęła już niemal całą wiedzę z internetu. Teraz jej twórcy masowo skanują i niszczą książki

Sztuczna inteligencja wchłonęła już niemal całą wiedzę z internetu. Teraz jej twórcy masowo skanują i niszczą książki

W skrócie

  • Firmy technologiczne wykupują używane książki z rynku wtórnego, by poprzez destrukcyjne skanowanie pozyskiwać nieskażone dane tekstowe dla modeli sztucznej inteligencji.
  • Twórcy AI wybierają książki z ery analogowej, ponieważ wyczerpały się zasoby internetu, a dane w sieci są zanieczyszczone treściami generowanymi przez same algorytmy.
  • Amerykański sąd uznał destrukcyjne skanowanie za dozwolony użytek, lecz w Unii Europejskiej legalność tego procederu pozostaje niejasna ze względu na inne ramy prawne.

==============================================================

Twórcy AI na potęgę skanują i niszczą książki

Branża sztucznej inteligencji znalazła nowe źródło danych: fizyczne, używane książki. Antykwariusze w Niemczech, Szwajcarii i Austrii odnotowują niespotykaną dotąd falę masowych zamówień. Firmy technologiczne oraz działający na ich zlecenie pośrednicy skupują tysiące tomów z rynku wtórnego, które następnie są skanowane destrukcyjnie. Szacuje się, że w samych Niemczech wykupiono już około 700 tys. woluminów, a w skali globalnej liczba ta sięga 3 mln. Ma to na celu trenowanie modeli językowych – dostarczanie sztucznej inteligencji nowej wiedzy, która nie była dostępna w internecie.

Wybór książek nie jest przypadkowy. Kupujący celowo sięgają po literaturę faktu wydawaną od lat 70. XX r. Przedmiotem zainteresowania są głównie opracowania naukowe, prawo, językoznawstwo, ekonomia czy historia regionalna. Z reguły nabywany jest dokładnie jeden egzemplarz danego tytułu – zazwyczaj ten, który przez lata zalegał na półkach z powodu niskiego popytu.

Po przejęciu książek trafiają one do wyspecjalizowanych zakładów. Tam ich grzbiety są obcinane przez maszyny gilotynowe, co umożliwia błyskawiczne skanowanie stron w urządzeniach o wydajności 80-120 stron na minutę. Zdigitalizowany tekst trafia bezpośrednio do baz danych modeli AI, a kartki są natychmiast przekazywane do utylizacji i recyklingu. Skanować można też bez niszczenia książek, ale trwa to wolniej. Warto przy tym zauważyć, że nie mamy tu do czynienia z klasyczną digitalizacją książek rozumianą jako udostępnianie ludziom ich cyfrowych kopii. Ich zawartość będzie dostępna jedynie dla modeli i to one będą mogły w oparciu o nią udzielać odpowiedzi na zapytania użytkowników.

Wyczerpanie zasobów cyfrowych. Sztuczna inteligencja zjada papier [to pożera Kulturę, synku.. md]

Przyczyną, dla której twórcy sztucznej inteligencji zaczęli sięgać po papier, jest wyczerpanie otwartych zasobów internetu. Dotychczasowa baza treningowa oparta na ogólnodostępnych stronach WWW, portalach społecznościowych czy Wikipedii została wykorzystana niemal w całości. Co więcej, współczesny internet jest w coraz większym stopniu zanieczyszczony treściami wygenerowanymi przez same modele AI.

Karmienie algorytmów ich własną produkcją prowadzi do zjawiska określanego jako „zapadanie się modelu” (ang. model collapse) i drastycznego spadku jakości generowanych odpowiedzi. O zjawisku tym pisaliśmy w GeekWeeku w kontekście samoutwierdzania się modeli w przekonaniu, że pewne sformułowania, takie jak „to nie X, to Y” są na tyle naturalną konstrukcją w ludzkiej komunikacji, że dobrze jest wrzucać ją do niemal każdego akapitu.

Książki wydane w tzw. erze analogowej, przed epoką powszechnej cyfryzacji, a szczególnie przed 2022 r., czyli publicznym debiutem ChatGPT, stanowią unikalny, nieskażony zasób zweryfikowanej wiedzy, ciągłej narracji i specjalistycznej terminologii. O ile dzieła z domeny publicznej zostały zdigitalizowane już wcześniej przez projekty w rodzaju Google Books, o tyle literatura objęta prawami autorskimi z drugiej połowy XX r. nie posiadała dotąd legalnych wersji cyfrowych.

Dla zachodnich laboratoriów technologicznych (a przynajmniej tych, które nie korzystały z pirackich baz książek – o czym pisaliśmy w GeekWeeku) zbiory te stały się pożądanym, nieznanym dotąd rezerwuarem unikalnych danych, szczególnie cennych dla języków innych niż angielski.

Amerykański precedens i niepewna sytuacja prawna w Europie

Rodzi się pytanie, czy to wszystko jest zgodne z prawem. Warto tu przywołać orzeczenie amerykańskiego sądu federalnego w sprawie Bartz v. Anthropic z 2025 r. Sędzia uznał, że fizyczne nabycie książki, jej zniszczenie i zachowanie jedynie cyfrowej kopii na potrzeby szkolenia AI mieści się w ramach doktryny dozwolonego użytku (ang. fair use) prawa autorskiego USA.

Skoro cyfrowy zapis nie trafia do ponownego obiegu jako zastępstwo książki, a jedynie służy do celów edukacyjnych maszyny, ma on charakter transformatywny. Twórcy modelu Claude zapłacili wprawdzie 1,5 mld USD w ramach ugody dotyczącej wcześniejszego korzystania z pirackich bibliotek cyfrowych, jednak ich „Project Panama”, obejmujący masowy wykup i destrukcję dzieł, zyskał podkładkę prawną.

Sytuacja wygląda inaczej w Unii Europejskiej. Prawo europejskie nie posiada tak elastycznej konstrukcji jak fair use. Unijna dyrektywa DSM wprawdzie wprowadziła wyjątek dotyczący „wykopywania” tekstów i danych (ang. text and data mining), lecz przyznaje twórcom prawo do sprzeciwu. W przypadku starszych pozycji, często wyczerpanych lub wydanych przed wejściem w życie dyrektywy, mechanizm zgłaszania sprzeciwu jest trudny do wyegzekwowania, a legalność pozyskiwania takich danych pozostaje spornym zagadnieniem prawnym.

Zagrożenie dla dziedzictwa kulturowego i prywatyzacja wiedzy

W perspektywie wiedzy, jaką dysponuje już sztuczna inteligencja, 3 mln książek to ok. 300 mld tokenów tekstu, czyli zaledwie kilka procent zbiorów danych, na których uczą się najnowsze modele. Wartość stanowi jednak unikalność tych treści. Giganci technologiczni skanują m.in. niskonakładowe dysertacje, monografie czy lokalne publikacje historyczne, wydawane w nakładach rzędu 300-500 sztuk. Niektóre z nich to tzw. białe kruki, które mogą bezpowrotnie zniknąć z rynku w formie papierowej, czym firmy skupujące książki na palety zdają się jednak nie przejmować.

Niszczenie ostatnich krążących po rynku egzemplarzy usuwa je z publicznego obiegu antykwarycznego. Choć papier trafi na makulaturę, wiedza zapisana na kartkach nie zniknie całkowicie, lecz raczej przenosi się do nowego medium. Z jednej strony mamy tu do czynienia z postępem w dostępie do wiedzy, jako że zamiast długich poszukiwań w antykwariatach czy bibliotekach będziemy mogli paroma kliknięciami uzyskać informacje z tych książek. Przynajmniej w optymistycznym założeniu. To bardziej pesymistyczne jawi się raczej jako regres – powrót do kultury oralnej, w której wiedza była przekazywana ustnie, a po drodze przekręcana. Coś zostało ujmowane, coś dopowiedziane i tak powstawał głuchy telefon.

Sztuczna inteligencja, choć jest obecnie prawdopodobnie najwyższą z ludzkich technologii, jeśli chodzi o informatykę, nie jest wolna od tych bolączek ery przedpiśmiennej. Wciąż nierozwiązanym problemem pozostają halucynacje AI, czyli skłonność modeli do zmyślania i przekręcania danych. Ponadto odbiorcy tych treści uzyskują do nich dostęp w sposób zapośredniczony. Model nie wypluwa cytatów ani nie udostępni e-booka do pobrania, co wynika z ochrony praw autorskich. Będzie nam mógł opowiedzieć, co w danej książce się znajduje – lecz swoimi słowami i w swojej interpretacji, która może odbiegać od oryginału. Powstaje więc ryzyko błędów, ale także celowych manipulacji.

Francuski filozof Michel Foucault postawił znak równości między władzą a wiedzą. Mimo deklarowanej przez twórców AI neutralności (którą także można rożnie interpretować) modele mogą zamiast rzetelnej wiedzy przekazywać informacje ocenzurowane i przekształcone zgodnie z interesami korporacji, a ich weryfikacja może być trudna lub niemożliwa, jeśli nie będzie dostępnych autentycznych, niezmienionych kopii książek, z których czerpały one wiedzę. Tym samym literatura przejdzie z przestrzeni dobra wspólnego do zamkniętych, prywatnych baz danych wielkich korporacji. Bez odgórnych regulacji wymuszających na firmach udostępnienie cyfrowych kopii publicznym bibliotekom, znaczna część unikalnego dziedzictwa kulturowego i naukowego XX w. może zostać bezpowrotnie odcięta od społeczeństwa, trafiając w ręce prywatne.

Rok 1984 czy Nowy wspaniały świat?

Komu ten nowy stan rzeczy jest na rękę, a u kogo rodzi obawy? Sytuacja jest dość złożona. Na tym procederze najwięcej zyskają antykwariusze, którzy w końcu mają zbyt na tomy zbierające kurz na półkach. Dla osób robiących research – zwykłych użytkowników, ale też pracowników naukowych czy dziennikarzy – może to być wygodny i tańszy sposób niż polowanie na fizyczne czy cyfrowe kopie tekstów (o ile założymy, że dane z AI będą rzetelne, a narzędzie będzie darmowe, co nie jest wcale takie oczywiste w dłuższej perspektywie).

Skanowanie destrukcyjne i przenoszenie książek do baz wiedzy dużych modeli językowych (LLM-ów) może rodzić obawy osób, którym zależy na zachowaniu dziedzictwa kulturowego ludzkości – jako że pismo jest jednym z kluczowych atrybutów cywilizacji, a książki przez wieki cieszyły się szacunkiem. Nie znaczy to jednak, że każdy zadrukowany papier przedstawia ogromną wartość poznawczą czy literacką ani że należy darzyć go uwielbieniem na modłę bibliofilską. Książki – jak każdy inny tekst kultury – także przecież nieraz zawierają przekłamania albo są tandetnymi szmirami pisanymi (lub coraz częściej generowanymi przez AI) tylko dla zysku. Poza oczywistym sentymentem problemem jest jednak możliwy brak danych referencyjnych – oryginalną treść „tylko do odczytu” przejmą kapryśne algorytmy i nie będzie można samodzielnie sprawdzić, co dokładnie napisał autor.

Pytanie, czy w ogóle na to sprawdzanie ktoś będzie miał ochotę. Poza kurczącym się gronem czytelników weryfikujących informacje (w tym poprzez omawiane przez nas w GeekWeeku narzędzia do fact-checkingu) niestety coraz więcej odbiorców treści zadowala się tym, co narzuca im się jako pierwsze w sieci. Pisał o tym choćby Kai Strittmatter w książce Chiny 5.0. Jak powstaje cyfrowa dyktatura, gdzie opisywał, jak większość studentów nawet nie uruchomiła przekazanego im narzędzia VPN, by móc czytać artykuły z zagranicznych portali, a większości ludzi wystarczą „kuratowane” przez partyjnych cenzorów treści z chińskiego internetu. Ponadto z uwagi na brak dostępu do treści pisanych (choćby o masakrze na Placu Tian’anmen) zbiorowa pamięć ulega zatarciu. Autor przywoływał także porównanie obaw George’a Orwella i Aldousa Huxleya. Ten pierwszy obawiał się, że książki będą cenzurowane lub usuwane z obiegu, a drugi – że nikomu to nie będzie przeszkadzać. W Chinach spełniły się te oba czarne scenariusze, ale czy u nas nie dzieje się podobnie?

Proceder, który stał się udziałem twórców przyszłej superinteligencji – technologii przewyższającej zdolnościami intelektualnymi całą ludzkość – można rozpatrywać w odniesieniu do literackich dystopii, takich jak Rok 1984 Orwella, Nowy wspaniały świat Huxleya czy 451 stopni Fahrenheita Bradbury’ego, i dyskutować, która z tych wizji pasuje najbardziej. Zapewne każda z nich przewidziała w pewnym stopniu to, co dzieje się obecnie z piśmiennictwem. Swoje trzy grosze dorzucił także polski autor Jacek Dukaj, który jeszcze przed erą LLM-ów w eseju Po piśmie prognozował kryzys tradycyjnie rozumianego pisma i rosnącą rolę nowych mediów cyfrowych podających wiedzę w dość zdegenerowanej formie.

Postęp nie zawsze oznacza zmianę na lepsze, a kurczowe trzymanie się przeżytków również nie zawsze chroni przed złem i zepsuciem. Mapy w telefonie świetnie zastąpiły te papierowe, a komputery – maszyny do pisania i liczydła.

Ale gdy chwiejna cyfrowa pamięć zastępuje tę wydrukowaną i niedającą się poprawiać, a sztuczna inteligencja zastępuje naszą własną, to stąpamy już po naprawdę niepewnym gruncie.