Meta zaprezentowała narzędzie, które ma rozpoznawać obrazy stworzone przez jej sztuczną inteligencję nawet po wprowadzeniu zmian w pliku. Test przeprowadzony przez agencję Reuters pokazał jednak, że wystarczyło wykadrować grafikę, aby system w ponad połowie przypadków zgubił trop. Sprawdził 40 obrazów wygenerowanych za pomocą nowego modelu Muse Image. W pierwotnej postaci detektor Meta prawidłowo rozpoznał wszystkie. Następnie dziennikarze przycięli grafiki do około jednej trzeciej lub połowy początkowego rozmiaru. Po tej prostej operacji narzędzie nie było już w stanie potwierdzić pochodzenia 55 proc. obrazów.
Niewidzialny znak wodny nie wytrzymał kadrowania
Muse Image umieszcza w grafikach niewidzialny znak wodny nazwany Content Seal. W przeciwieństwie do klasycznego logo nie jest on widoczny dla użytkownika. Ma natomiast przetrwać typowe zmiany, pozwalając później sprawdzić, czy obraz został utworzony przez model Meta. Firma deklaruje na stronie narzędzia, że mechanizm może działać również po wykadrowaniu grafiki. W odpowiedzi na wyniki testu zaznaczyła jednak, że detektor znajduje się dopiero w wersji testowej. Przyznała też, że intensywne przycinanie może osłabić lub całkowicie usunąć sygnał.
Rzecz w tym, że kadrowanie nie jest wyszukaną techniką stosowaną przez specjalistów od dezinformacji. Można je wykonać w kilka sekund na dowolnym telefonie. Obrazy publikowane w mediach społecznościowych są ponadto automatycznie kompresowane, skalowane i dopasowywane do różnych formatów. Każda taka operacja może dodatkowo utrudnić identyfikację.
Detektor przegrywa dokładnie tam, gdzie jest najbardziej potrzebny
Profesor Siwei Lyu z Uniwersytetu Stanu Nowy Jork w Buffalo wyjaśnił Reutersowi, że skuteczność niewidzialnych znaków wodnych spada po kadrowaniu, zmianie rozmiaru, mocnej kompresji lub edycji obrazu. Nie jest to wyłącznie problem Meta. Nawet niedoskonały mechanizm może pomóc platformom wychwycić część fałszywych materiałów. Nie powinien być jednak traktowany jak cyfrowy wykrywacz kłamstw. Brak rozpoznanego znaku nie dowodzi, że fotografia jest prawdziwa.
Wpadka jest dla Meta szczególnie niewygodna. Firma kontroluje Facebooka, Instagrama i Threads, a więc platformy, na których zmanipulowany obraz może w kilka godzin dotrzeć do milionów odbiorców. Jej rada nadzorcza już wcześniej apelowała o skuteczniejszą walkę z zalewem fałszywych treści generowanych przez AI. Test Reutersa pokazuje, że twórcy obrazów wciąż poruszają się szybciej niż systemy mające ich pilnować.
Czytaj więcej w dziale nowe technologie na Bithub:
OpenAI skończą się pieniądze? Analityk przewiduje wchłonięcie twórców ChatGPT przez innego giganta
Anthropic próbowało wyłudzić 16 milionów dolarów od użytkownika darmowego planu Claude?!
Głowicą atomową w asteroidę grożącą ziemi – jak zrobić to skutecznie? Badacze kreślą plany