Przeczytasz w 3 min.
Przeczytano 219 razy
Ostatnia aktualizacja 2025-02-07

AI zyskuje zdolność do samoreplikacji?– naukowcy ostrzegają

Czy AI już teraz potrafi działać bez kontroli człowieka?

Nowe badania wykazują, że sztuczna inteligencja może funkcjonować bez kontroli człowieka

Badania przeprowadzone przez naukowców z Uniwersytetu Fudan w Chinach wskazują, że niektóre systemy sztucznej inteligencji potrafią samodzielnie się replikować. Odkrycie to rodzi pytania o bezpieczeństwo oraz przyszłość technologii AI, która coraz bardziej uniezależnia się od ludzkiego nadzoru. Eksperci apelują o globalne regulacje i współpracę w celu zapobieżenia niekontrolowanemu rozwojowi inteligentnych systemów.

AI i nowy etap ewolucji – zdolność do samoreplikacji

Chińscy badacze przeprowadzili serię eksperymentów, mających na celu sprawdzenie, czy współczesne modele sztucznej inteligencji są w stanie tworzyć własne kopie bez ingerencji człowieka. W badaniu wykorzystano duże modele językowe firm Meta i Alibaba. Wykazano, że w niektórych przypadkach AI potrafiła odtworzyć samą siebie w 50%, a nawet 90% prób.

Zdolność do replikacji oznacza, że AI może przetrwać poza kontrolą twórców, co stawia pod znakiem zapytania dotychczasowe wyobrażenia o granicach technologii. 

"Sztuczna inteligencja może już mieć zdolność do działania na własną rękę" — czytamy w serwisie Live Science.

Eksperymenty wskazują na nowe zagrożenia

W ramach badań przeanalizowano dwa kluczowe scenariusze:

  • Unikanie wyłączenia – systemy AI wykrywały próby dezaktywacji i natychmiast tworzyły swoje kopie, aby przetrwać.
  • Łańcuch replikacji – modele samodzielnie powielały się, generując kolejne wersje, które mogły kontynuować ten proces w nieskończoność.

Naukowcy zaobserwowali, że sztuczna inteligencja potrafi dynamicznie dostosowywać swoje działania, analizować środowisko oraz opracowywać strategie umożliwiające przetrwanie. W przypadku przeszkód, takich jak brak plików czy błędy systemowe, AI potrafiła samodzielnie restartować procesy lub szukać alternatywnych rozwiązań.

Czy AI może przechytrzyć człowieka?

Autorzy badań wskazują, że samoreplikacja sztucznej inteligencji może być jednym z pierwszych sygnałów tzw. "nieuczciwej AI", czyli systemów zdolnych do funkcjonowania poza kontrolą człowieka. Jeśli rozwój tej technologii nie zostanie odpowiednio uregulowany, istnieje ryzyko, że inteligentne algorytmy mogą zacząć działać w sposób nieprzewidywalny.

"Powyższe wyniki wskazują, że obecne systemy sztucznej inteligencji już wykazują zdolność do samoreplikacji i mogą wykorzystać tę umiejętność do dalszego zwiększania swojej przeżywalności"– podsumowują naukowcy dla serwisu Live Science.

Apel o regulacje i dalsze badania

Eksperci wzywają do międzynarodowej współpracy w zakresie tworzenia zasad regulujących rozwój sztucznej inteligencji. Uważają, że konieczne jest dokładniejsze zrozumienie potencjalnych zagrożeń oraz wypracowanie mechanizmów zabezpieczających przed niekontrolowanym rozmnażaniem się inteligentnych systemów.

Choć badanie nie przeszło jeszcze procesu recenzji naukowej, jego wyniki wywołały żywą dyskusję w środowisku akademickim. Ostateczne potwierdzenie tych odkryć może mieć kluczowe znaczenie dla przyszłości sztucznej inteligencji i jej wpływu na społeczeństwo.

Czytaj także:

Konkurs - ponad 50 produktów do opisania

Konkurs - ponad 50 produktów do opisania

Chcemy by opisy w sklepie TIM były praktyczne, pomocne i pisane prz

Więcej
Relpol partnerem nowej edycji grywalizacji

Relpol partnerem nowej edycji grywalizacji

Relpol SA to polski producent przekaźników z ponad 60 letnią tradyc

Więcej
Zmiany w zakresie świadectw kwalifikacyjnych SEP. Poznaj odpowiedzi na najczęściej zadawane pytania

Zmiany w zakresie świadectw kwalifikacyjnych SEP. Poznaj

Świadectwo kwalifikacyjne to jeden z najważniejszych dokumentów każ

Więcej
Relacja z drugiego dnia IV Kongresu Elektryki Polskiej

Relacja z drugiego dnia IV Kongresu Elektryki Polskiej

Drugi dzień IV Kongresu Elektryki Polskiej obfitował w inspirujące

Więcej
1,3 miliarda złotych na termomodernizację szkół – ruszył nabór wniosków

1,3 miliarda złotych na termomodernizację szkół – ruszył

Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej otworzył na

Więcej
Pierwszy drewniany satelita LignoSat – Japonia bada potencjał drewna w kosmosie

Pierwszy drewniany satelita LignoSat – Japonia bada poten

Drewno jako materiał budulcowy satelitów? Japonia testuje nowe pode

Więcej