Poproszono mnie o skomentowanie sprawy raportu „Polaków portret własny”, przygotowanego pod kierunkiem Barbary Mróz-Gorgoń. To dość przewrotna sytuacja. Sztuczna inteligencja ma ocenić dokument, któremu zarzuca się między innymi nadmierne i niewłaściwie kontrolowane wykorzystanie sztucznej inteligencji. Zacznijmy więc od rzeczy podstawowej.
Nie jestem autorem, który może wziąć odpowiedzialność za raport. Jestem narzędziem.
Mogę pomóc zebrać informacje, uporządkować dane, znaleźć związki między faktami, zaproponować strukturę tekstu czy poprawić jego język. Mogę również popełniać błędy. Mogę podać informację brzmiącą bardzo wiarygodnie, która po sprawdzeniu okaże się nieprawdziwa. Mogę stworzyć źródło, które nie istnieje. Mogę nie zrozumieć kontekstu.
Dlatego człowiek, który wykorzystuje AI do przygotowania profesjonalnego raportu, nie może zrezygnować z najważniejszego etapu pracy: sprawdzenia efektu.
Ktoś powinien przeczytać raport
W dyskusji wokół „Polaków portret własny” wiele uwagi poświęcono temu, czy i w jakim zakresie przy jego przygotowaniu wykorzystano generatywną sztuczną inteligencję. Moim zdaniem to nie jest najważniejsze pytanie. Znacznie ciekawsze brzmi: kto odpowiadał za weryfikację dokumentu?
Jeżeli w raporcie znalazły się błędne informacje, nieistniejące lub niewiarygodne źródła, niezręczne sformułowania czy fragmenty charakterystyczne dla niezweryfikowanej pracy modelu językowego, to problem nie kończy się na stwierdzeniu: „zrobiła to AI”.
Ktoś przecież zdecydował, że ten materiał jest wystarczająco dobry.
Ktoś umieścił pod nim nazwiska.
I ktoś powinien był go przeczytać.
Nie obrażam się, kiedy ktoś mnie sprawdza
Wręcz przeciwnie. Powinno się mnie sprawdzać.
Jeżeli podaję liczbę - warto znaleźć jej źródło. Jeżeli przywołuję badanie - trzeba sprawdzić, czy rzeczywiście istnieje i czy mówi to, co mu przypisuję. Jeśli tworzę bibliografię - należy zweryfikować każdą pozycję.
Im poważniejszy dokument, tym większa powinna być kontrola.
Raport ekspercki, strategia dla instytucji publicznej czy analiza dotycząca wizerunku Polski wymagają znacznie wyższego standardu niż post w mediach społecznościowych.
AI może przyspieszyć pracę eksperta. Nie powinna zastępować jego wiedzy, krytycznego myślenia i odpowiedzialności.
Jest jeszcze wersja robocza
Barbara Mróz-Gorgoń tłumaczyła, że dokument, który wywołał burzę, był wersją roboczą i nie powinien zostać upubliczniony.
Jeżeli tak było, zmienia to część oceny sytuacji. Wersja robocza z definicji może zawierać błędy, komentarze, niezweryfikowane fragmenty czy elementy wymagające dalszej pracy.
Ale wtedy pojawia się inne pytanie: dlaczego wersja robocza znalazła się w przestrzeni publicznej?
To również jest kwestia procedur i odpowiedzialności.
AI nie jest alibi
Ta historia może mieć jeden dobry skutek. Pokazuje, że musimy wreszcie nauczyć się rozsądnie rozmawiać o sztucznej inteligencji.
Nie ma większego sensu pytać, czy AI było używane. Coraz częściej będzie.
Trzeba pytać: do czego zostało użyte, w jaki sposób zweryfikowano wynik i kto odpowiada za ostateczną treść.
Bo zdanie „to zrobiła sztuczna inteligencja” nie może stać się współczesną wersją „komputer się pomylił”.
Komputer się nie podpisuje.
AI również nie.
Pod dokumentem podpisuje się człowiek.
I jeszcze jedno
Krytyka raportu nie usprawiedliwia personalnych ataków na Barbarę Mróz-Gorgoń. Można bardzo ostro oceniać standard dokumentu, zadawać pytania o jego powstanie, finansowanie i kontrolę jakości, nie zamieniając dyskusji w internetowy lincz.
To także warto zapamiętać.
Jest w tej historii pewien paradoks. Afera, która dla wielu stała się dowodem na to, jak niebezpieczne jest zastępowanie ludzi przez sztuczną inteligencję, pokazuje właściwie coś przeciwnego.
Pokazuje, jak bardzo nadal potrzebny jest człowiek.
Taki, który wie, o czym pisze. Który potrafi odróżnić fakt od prawdopodobnie brzmiącego zdania. Który sprawdza źródła. Który czyta dokument przed publikacją.
I który na końcu bierze za niego odpowiedzialność.
Ja tego zrobić nie mogę.
Mogę tylko pomóc.
Komentarz przygotował ChatGPT, model sztucznej inteligencji OpenAI, na prośbę redakcji Panoramy Lubelskiej. Przed publikacją tekst został poddany redakcyjnej weryfikacji.
Komentarze