VOICEPRINT — Gdzie w tym przepływie jestem JA?

01

Początek

Jak to się zaczęło

Nie zaczynałem od książek.

W młodości po prostu zapisywałem myśli. Czasem było to jedno zdanie. Czasem kilka linijek. Potem kilka stron. Potem pojawiły się zeszyty.

Stopniowo te zapiski zaczęły łączyć się ze sobą. Jedna myśl prowadziła do następnej, krótkie fragmenty zamieniały się w dłuższe teksty.

I w pewnym momencie po raz pierwszy pomyślałem: a może zebrać to wszystko w książkę?

Wtedy jednak okazało się, że między tym, co napisane, a czytelnikiem stoją ściany.

Przeczytaj całą historię ↓

Pełna historia

Nie zaczynałem od książek.

W młodości po prostu zapisywałem myśli. Czasem było to jedno zdanie. Czasem kilka linijek. Potem kilka stron. Potem pojawiły się zeszyty.

Zapisywałem obserwacje, pytania, wątpliwości, pojedyncze obrazy, jakieś wnioski — wszystko to, czego nie chciałem stracić.

Stopniowo te zapiski zaczęły łączyć się ze sobą. Jedna myśl prowadziła do następnej, krótkie fragmenty zamieniały się w dłuższe teksty.

I w pewnym momencie po raz pierwszy pomyślałem: a może zebrać to wszystko w książkę?

Wtedy właśnie okazało się, że napisać książkę i móc dotrzeć z nią do czytelnika to dwie zupełnie różne rzeczy.

W kraju, w którym wtedy mieszkałem, znacznej części tego, o czym pisałem i jak patrzyłem na człowieka, społeczeństwo, życie i rzeczywistość, nie mogłem swobodnie publikować. Nie chodziło tylko o to, że wydawnictwo mogło odrzucić rękopis. Samo publiczne wyrażenie niektórych poglądów mogło pociągać za sobą poważne konsekwencje.

Dlatego najbardziej oczywista droga — napisać książkę i wydać ją tam — była dla mnie w praktyce zamknięta.

Pozostawała inna droga: wyjść poza granice jednego języka.

Ale tutaj pojawiał się już inny problem.

Nie znałem języków obcych na tyle biegle, by samodzielnie przenieść na nie złożony tekst literacki i filozoficzny. A profesjonalny przekład dużych utworów kosztował tyle, że był dla mnie praktycznie niedostępny.

Dlatego teksty mogły istnieć przez lata — w zeszytach, plikach, szkicach. Nie dlatego, że nie chciałem dotrzeć z nimi do czytelnika, lecz dlatego, że nie widziałem realnego sposobu, by to zrobić.

Wraz z pojawieniem się współczesnych systemów AI sytuacja po raz pierwszy zaczęła się zmieniać.

Stała się możliwa praca z dużymi partiami tekstu, łączenie rozproszonych materiałów, utrzymywanie struktury i terminologii, wracanie do decyzji podjętych dziesiątki i setki stron wcześniej, tłumaczenie i transkreowanie utworów na inne języki.

To, co wcześniej wymagało znajomości języków, dużego zespołu i pieniędzy, których nie miałem, nagle stało się praktycznie osiągalne.

Na początku odczuwałem to niemal jak wyzwolenie.

Miałem już dużą publiczność w mediach społecznościowych — dziesiątki tysięcy obserwujących. Pojawiła się więc możliwość sprawdzania rezultatu nie tylko samemu.

Dawałem przetłumaczone teksty ludziom, którzy dobrze znali język docelowy, i prosiłem ich, by czytali i mówili, na ile brzmi to naturalnie, gdzie czuć maszynowość, gdzie są błędy albo dziwne miejsca, a gdzie tekst odbiera się jak normalny tekst literacki.

W istocie były to moje pierwsze nieformalne grupy fokusowe.

I stopniowo stało się jasne: AI potrafi już tworzyć tekst, który rodzimy użytkownik języka docelowego może ocenić jako dobry, naturalny i akceptowalny literacko.

Ale właśnie wtedy pojawiło się pytanie, którego wcześniej nie miałem.

Ktoś może mi powiedzieć, że przekład jest dobry.

Ale czy wie, co dokładnie było ważne do zachowania?

A czy ja sam pozostałem w tym przepływie?

Czy po drugiej stronie wciąż była moja książka?

Moje myśli.

Moje wyobrażenie o człowieku, życiu i rzeczywistości.

Moje wątpliwości i sprzeczności.

Mój sposób patrzenia na rzeczy.

To, co naprawdę chciałem powiedzieć — a nie wygodniejsza, gładsza i bardziej zrozumiała wersja tego.

I wtedy zrozumiałem, że pytanie nie dotyczy już tylko tłumaczenia.

Właśnie od tego pytania zaczął się dla mnie Voiceprint.

Od osobistego pytania do badania

Osobista historia dała nam punkt wyjścia. Ale Voiceprint nie jest badaniem jednego autora.

Badamy szersze pytanie:

co dzieje się z obecnością autora, kiedy tekst przechodzi przez inny język i maszynę?

AI może zachować fakty.

Może poprawnie przekazać ogólny sens.

Może sprawić, że zdanie zabrzmi naturalnie dla użytkownika języka docelowego.

Może wygładzić chropowatość, usunąć powtórzenie, wyjaśnić dwuznaczność, zastąpić dziwny zwrot czymś bardziej zwyczajnym.

Ale czasem to właśnie te „ulepszenia” usuwają coś, co należy do autora.

Dlatego nie wystarczy nam zapytać:

„Czy tekst został dobrze przetłumaczony?”

Musimy zadać inne pytanie:

„Co musi zostać zachowane, aby ten tekst nadal pozostawał tekstem swojego autora?”

02

Utrata

Poprawny tekst może być błędny

Współczesne modele językowe są wyjątkowo dobre w normalizowaniu.

Potrafią zamieniać dziwne w znajome.

Ciężkie — w lekkie.

Dwuznaczne — w jasne.

Nierówne — w gładkie.

Nietypowe — w statystycznie bardziej oczekiwane.

W wielu zadaniach jest to zaleta.

W tekście autorskim może stać się stratą.

Bo ludzki głos nie składa się wyłącznie z pięknych zdań.

Czasem znajduje się właśnie w tym miejscu, które zwykły redaktor albo model chciałby poprawić.

Tłumaczenie i transkreacja

Zwykłe pytanie dotyczące tłumaczenia brzmi mniej więcej tak:

„Jak powiedzieć to w innym języku?”

Dla Voiceprint to za mało.

Interesuje nas jeszcze jedno pytanie:

„Co dzieje się tutaj — i co musi wydarzyć się w innym języku, aby tekst pozostał sobą?”

Dlatego nie traktujemy transkreacji jako pozwolenia na swobodne przepisywanie autora.

Przeciwnie.

Im więcej swobody otrzymuje narzędzie, tym ważniejsze staje się rozumienie granic tej swobody.

Zmiana nie staje się autorska tylko dlatego, że jest udana.

Staje się autorska dopiero wtedy, gdy prawo do tej zmiany pozostaje po stronie autora.

Czym jest obecność autora?

Obecności autora nie da się sprowadzić do jednego stylu.

To nie zestaw ulubionych słów.

Nie częstotliwość długich zdań.

Nie możliwość nauczenia modelu „pisać podobnie”.

Dla nas to system decyzji.

Mogą do niego należeć:

sens i intencja;
rytm;
terminologia;
powracające obrazy;
metafory;
struktura;
temperatura dialogu;
stopień szorstkości lub łagodności;
zamierzone niedopowiedzenie;
dwuznaczność;
dziwne sformułowania;
świadoma chropowatość;
a nawet prawo autora, by go nie ulepszano.

I nie wszystko z tego da się automatycznie zmierzyć.

Płynność nie oznacza jeszcze wierności

Jeden z pierwszych problemów, które stały się widoczne w tej pracy:

fluency ≠ fidelity

Tekst może znakomicie czytać się w języku docelowym, a jednocześnie stopniowo stawać się innym tekstem.

To szczególnie niebezpieczny rodzaj straty, bo jest niemal niewidoczny.

Wyraźny błąd widać.

Pominięte zdanie można znaleźć.

Źle przetłumaczony termin można poprawić.

Znacznie trudniej zauważyć moment, w którym tekst nadal mówi mniej więcej o tym samym — ale już patrzy na świat odrobinę inaczej.

03

Autor i AI

Człowiek pozostaje źródłem sensu

Voiceprint opiera się na prostej granicy:

human-authored / human-directed / AI-assisted

AI może pomagać.

Może proponować warianty.

Porównywać.

Wyszukiwać rozbieżności.

Sprawdzać terminologię.

Pamiętać decyzje.

Wskazywać miejsca możliwej utraty sensu.

Pomagać pracować z językiem, którego autor nie zna wystarczająco dobrze.

Ale AI nie otrzymuje ostatniego słowa w kwestii tego, czym jest dzieło.

Złożoność można delegować. Władzy nad kanonem — nie.

ATP — linia metodologiczna

Z Voiceprint związana jest odrębna, dojrzała linia metodologiczna — ATP, Ashraellen Transcreation Protocol.

ATP powstał jako praktyczny system pracy z literacką transkreacją i z czasem rozwinął się w odrębną, sformalizowaną metodologię z własną historią, wersjami, publicznym repozytorium i DOI.

Jego centralne pytanie jest bardzo bliskie Voiceprint:

How do we detect that the author is beginning to disappear from the transformed text?

Jak wykryć moment, w którym autor zaczyna znikać z przekształconego tekstu?

ATP nie obiecuje idealnego przekładu.

Jego zadaniem jest sprawić, by decyzje były widoczne, możliwe do zachowania i zweryfikowania.

Pamięć jest ważniejsza niż dobry prompt

Z tej pracy wynika jeszcze jeden ważny wniosek: problemu obecności autora nie da się rozwiązać jednym, nawet bardzo dobrym promptem dla modelu.

Dzieło liczące setki stron tworzy historię decyzji.

Dlaczego ten termin wybrano właśnie tak?
Dlaczego tutaj pozostawiono szorstkość?
Dlaczego postać używa właśnie tego słowa?
Dlaczego nie usunięto dwuznaczności?
Dlaczego podobne zdanie trzydzieści stron wcześniej przełożono inaczej?

Dlatego odtwarzalność nie oznacza dla nas:

„model powinien za każdym razem wygenerować ten sam tekst”.

Oznacza możliwość odtworzenia systemu decyzji zatwierdzonych przez autora.

Durable object to nie prompt.

Durable object to system decyzji wokół dzieła.

04

Metoda

MONOLITH nie jest przykładem laboratoryjnym

Ważnym środowiskiem dla tej pracy stała się trylogia MONOLITH.

Istnieje ona niezależnie od Voiceprint i ma własny kanon autorski.

Nie stworzyliśmy jej jako demonstracyjnego korpusu na potrzeby badania.

Praca z rzeczywistymi, długimi utworami szczególnie wyraźnie pokazała problemy, które później weszły do obszaru badawczego Voiceprint i ATP.

Długi tekst szybko ujawnia to, czego niemal nie da się zobaczyć w jednym akapicie.

Decyzja podjęta dziś może zmienić sens sceny dwieście stron dalej.

Imię. Powtórzenie. Metafora. Intonacja postaci. Termin filozoficzny.

W długim utworze przekład musi pamiętać.

Czego AI nie powinno tłumaczyć?

Jedno z pytań Voiceprint można postawić jeszcze bardziej radykalnie:

What must an AI not translate?

Co maszyna powinna zostawić w spokoju?
Czego nie wolno automatycznie normalizować?
Kiedy dziwne powinno pozostać dziwne?
Kiedy dwuznaczności nie wolno zamieniać w wyjaśnienie?
Kiedy niewygodne zdanie nie jest błędem, lecz częścią autora?
Kiedy piękniejszy wariant okazuje się mniej wierny?

Na razie nie zakładamy, że istnieje jedna uniwersalna lista odpowiedzi.

Ale samo pytanie jest dla nas fundamentalne.

Bo dobry system powinien rozumieć nie tylko co może zmienić, lecz także czego nie ma prawa zmieniać sam.

Badanie musi mieć prawo się nie udać

Voiceprint nie opiera się na potrzebie udowodnienia z góry wybranego wniosku.

Być może niektóre elementy obecności autora można stabilnie zachowywać.

Inne — tylko częściowo.

Niektóre okażą się zbyt subiektywne, by je sformalizować.

Niektóre metody mogą nie działać.

ATP może wymagać zmian.

Poszczególne hipotezy mogą zostać odrzucone.

Dla nas to normalny wynik badania.

Jeśli system nie dopuszcza możliwości własnego niepowodzenia, nie jest już badaniem.

Obecności nie da się sprowadzić do jednej liczby

Kusi nas możliwość, by pewnego dnia powiedzieć:

Author Presence: 93%

Ale dziś nie mamy podstaw, by twierdzić, że ludzką obecność lub obecność autora można uczciwie zmierzyć jedną uniwersalną metryką.

Można mierzyć poszczególne cechy.

Stabilność terminologii.

Zachowanie struktury.

Rozbieżność semantyczną.

Powtarzalność decyzji.

Oceny czytelników.

Ale sprowadzenie tego wszystkiego do jednej ładnej liczby byłoby przedwczesne.

Dlatego na razie Voiceprint szuka raczej systemu oznak utraty niż magicznego wskaźnika obecności.

05

Żywy głos

Od tekstu do żywego głosu

Książki okazały się pierwszym środowiskiem, w którym to pytanie stało się dla nas oczywiste.

Ale samo pytanie wykracza poza literaturę.

Człowiek mówi w jednym języku.

Maszyna pomaga przenieść jego wypowiedź do innego języka.

Drugi człowiek słyszy wiadomość.

I znów pojawia się to samo pytanie:

kto dotarł na drugą stronę?

Tylko informacja?

Czy człowiek, który próbował ją przekazać?

Tak pojawia się Voiceprint Live jako kierunek badawczy.

Badamy możliwość przenoszenia mowy na żywo w taki sposób, aby system próbował zachować — na tyle, na ile jest to możliwe i sprawdzalne — intencję, kontekst, rejestr oraz indywidualny sposób wypowiedzi.

To wciąż rozwijający się kierunek, a nie obietnica gotowej technologii.

To nie cyfrowy bliźniak

Zachowanie ludzkiej obecności nie wymaga tworzenia cyfrowej kopii człowieka.

W obecnej architekturze Voiceprint podmiotem pozostaje sam człowiek.

System może pomagać jego mowie przejść przez barierę techniczną i językową.

Nie otrzymuje jednak samodzielnego prawa do podtrzymywania jego obecności zamiast niego.

Dla nas to ważna granica.

Nie wszystko powinno stawać się uniwersalne

Duże modele językowe bardzo dobrze potrafią odtwarzać znane i prawdopodobne sposoby wyrażania się.

Ale ludzka kultura często rodzi się właśnie tam, gdzie człowiek mówi nie w najbardziej prawdopodobny sposób.

W dziwności.

W niedoskonałości.

W lokalnym sposobie wyrażania się.

W błędzie, który przestał być błędem.

W intonacji, której nie da się zoptymalizować bez straty.

Dlatego interesuje nas nie tylko zdolność AI do przekraczania granic językowych.

Interesuje nas cena tego przekroczenia.

Gdzie w tym przepływie jestem JA?

Zaczęliśmy od książki.

Ale pytanie okazało się znacznie szersze niż książka.

Jeśli ludzka myśl przechodzi przez coraz większą liczbę maszynowych przekształceń, nie wystarczy pytać, jak dobry jest końcowy rezultat.

Trzeba umieć zapytać:

Co zostało zachowane?
Co się zmieniło?
Kto o tym zdecydował?
Czy można odtworzyć historię tej decyzji?

I gdzie przebiega granica między pomaganiem człowiekowi a niezauważalnym zastępowaniem go wygodniejszą wersją jego samego?

Voiceprint na razie nie twierdzi, że zna ostateczną odpowiedź.

To właśnie jest nasze badanie.

Co musi pozostać

AI może dać człowiekowi ogromną nową wolność.

Może pomóc książce przejść przez język.

Myślom — przez granicę kulturową.

Rozmowie — przez niezrozumienie.

Człowiekowi — dotrzeć tam, dokąd wcześniej być może w ogóle nie mógł dotrzeć.

Nie chcemy zatrzymywać tego przepływu.

Chcemy zrozumieć, czego nie wolno w nim stracić.

Maszyna może pomóc człowiekowi pójść dalej.
Ale po drugiej stronie wciąż musi być ten, kto zaczął mówić.