Wklejasz tekst z ChatGPT? Uważaj. AI zacznie zostawiać ukryty ślad
Nadchodzi ogromna zmiana dla korzystających z ChatGPT w Unii Europejskiej. Przeklejasz gotowca i myślisz, że nikt się nie zorientuje? Od teraz OpenAI, podążając za wskazaniami Wspólnoty, do każdego tekstu dodaje niewidzialny watermark. I nie chodzi tu o dopisku na końcu „wygenerowane przez AI”, który można po prostu wyciąć. Sprawa jest znacznie bardziej zaawansowana, choć nie niemożliwa do obejścia.
ChatGPT zacznie zostawiać ślad w samym tekście
OpenAI rozpoczyna więc wdrażanie funkcji textGrain. Znak wodny nie będzie zaszyty w metadanych, a w samym tekście, poprzez sposób, w jaki model będzie dobierać słowa. Warto zacząć się do tego przyzwyczajać, bo zmiana naturalnie obejmie również Polskę. Jak już wspomnieliśmy, wdrożenie to wymusiła Unia Europejska swoim AI Act.
Jak konkretnie będzie to funkcjonować? W skrócie, ChatGPT podczas generowania tekstu wybiera kolejne słowa lub ich fragmenty spośród wielu możliwości. Teraz w dłuższych generowanych treściach będzie niepostrzeżenie zaszywać pewien schemat. Wzorzec doboru słów, którego zwykły użytkownik nie będzie w stanie wykryć. Nie pomoże kopiowanie, wklejanie czy usuwanie formatowania, bo znakiem wodnym będzie sam tekst i jego treść jako całość.
Obecność AI w tekstach bez problemu wykryje specjalnie zbudowany do tego checker, ale dostęp do niego oczywiście nie będzie publiczny. To będzie raczej przywilej badaczy czy specjalnych organizacji, które mogą się o niego ubiegać. Mało tego. Technologia ma zostać udostępniona jako open source, co otworzy jej wykorzystanie w CMS-ach czy przeglądarkach internetowych.
Watermark nie jest dowodem, że cały tekst napisała AI
Czy to oznacza, że Google czy nasi pracodawcy, będą mogli nas stygmatyzować za korzystanie ze sztucznej inteligencji? Na razie nie ma jednoznacznego wskazania, że technologiczny gigant miał obniżać przez to pozycję stron internetowych. Sam mechanizm tworzy jednak możliwość rozpoznawania części treści wygenerowanych przez modele GPT.
I ostatnie pytanie – czy da się to obejść? Samo OpenAI wskazuje, że krótsze teksty są objęte wysokim marginesem błędu. Tak samo jak te, które zostały wygenerowane przez AI, ale potem częściowo zmodyfikowane. Europa będzie pierwszym regionem, w którym OpenAI zacznie stosować swój system szerzej w zwykłym ChatGPT.
Czytaj więcej w dziale nowe technologie na Bithub:
Europa rzuca wyzwanie gigantom AI. „Le Chonk” ma bilion parametrów
Sony Music domaga się usunięcia 260 tysięcy utworów AI z serwisów streamingowych!
Koreańskie banki ofiarą hakerów. Do ataku wykorzystano AI
