Profesor Virginia Dignum oskarżona o oszustwo naukowe przez użycie AI w książce

Okazuje się, że w debacie publicznej pojawia się temat wykorzystywania sztucznej inteligencji przez naukowców. Po aferze z "Polaków Portretem Własnym", teraz tłumaczyć musi się profesor Virginia Dignum ze szwedzkiego Uniwersytetu w Umea, która została oskarżona o oszustwo naukowe. Dodatkowych kontrowersji nadał sprawie fakt, że uczona jest ekspertem do spraw etyki sztucznej inteligencji.

Autor skargi, skierowanej do państwowej Komisji do spraw Nadużyć w Badaniach Naukowych, wskazał na sześć przypisów w książce, które odsyłają do nieistniejących źródeł. Według zgłoszenia, fragmenty te miały zostać sfabrykowane przez sztuczną inteligencję, która potrafi generować wiarygodnie brzmiące, lecz nieprawdziwe informacje, określane jako halucynacje sztucznej inteligencji.

Wyjaśnienia profesor Dignum i kwestia poprawek językowych

W rozmowie z dziennikiem Dagens Nyheter profesor Virginia Dignum tłumaczyła, że błędy pojawiły się podczas korzystania z programu Latex, służącego do sortowania przypisów. Badaczka zapewniała, że listy biograficzne nie zostały wymyślone przez sztuczną inteligencję, ale zostały nieprawidłowo przekonwertowane. Dignum przyznaje jednak, że korzystała z narzędzi takich jak ChatGPT, Claude czy Gemini, aby poprawić język angielski w swojej książce, ponieważ jej językiem ojczystym jest portugalski.

Tłumaczyła, że nie pozwoliła sztucznej inteligencji tworzyć tekstu, lecz czasami pytała programy, czy dane zdanie jest wystarczająco jasne. Zapytana o zakres poprawek dokonanych przez sztuczną inteligencję, profesor Dignum ocenia, że mogło to być po kilka zdań w każdym rozdziale, maksymalnie 10 procent całości, choć sama przyznaje, że nie prowadziła dokładnych wyliczeń i tego nie liczyła.

Dorobek naukowy, kontrowersje i stanowisko komisji

Autor skargi podkreśla, że osoba zajmująca się etyką sztucznej inteligencji powinna wykazywać się szczególną ostrożnością przy korzystaniu z nowoczesnych narzędzi edytorskich. Tym bardziej, że Dignum jest nie tylko profesorem i szefową AI Policy LAB na Uniwersytecie w Umea, ale także doradczynią wielu instytucji publicznych i firm oraz prelegentką na międzynarodowych konferencjach, w tym w Watykanie w 2024 roku, a w swojej książce pisze, jak ważne jest monitorowanie i kontrolowanie rozwoju sztucznej inteligencji.

Sekretarz Komisji do spraw Nadużyć w Badaniach Naukowych odmówił komentarza na temat toczącego się postępowania w sprawie profesor Dignum. Przyznał jednak, że liczba przypadków nieprawidłowości związanych z przypisami w publikacjach naukowych rośnie. Sprawa profesor Dignum może stać się precedensem w dyskusji o granicach wykorzystania sztucznej inteligencji w nauce i o tym, jak powinna wyglądać odpowiedzialność naukowców w erze nowych technologii.