Za kilka miesięcy czeka nas prawdziwy Armagedon. Tak przynajmniej twierdzą zgodnie Dario Amodei, dyrektor generalny Antrophica (firmy, która stworzyła model sztucznej inteligencji Claude) oraz były pracownik tej firmy, brytyjski matematyk Jacob Coxon. Obaj, niezależnie od siebie, ostrzegli w ostatnich dniach, że już w tak krótkim czasie sztuczna inteligencja będzie w stanie przeprowadzać wielkoskalowe cyberataki i faktycznie przejąć pełną kontrolę nad znaczną częścią sieci internetowej i świata cyfrowego, a my nie mamy dziś narzędzi, aby się przed tym obronić. Zdaniem obu ekspertów rozwój tej technologii poszedł już tak daleko, że wymyka się nam z rąk, a roje autonomicznych agentów AI już teraz mogą destabilizować sieć według ustalonego przez siebie planu, choć jak dotąd nie zdarzyło się to na tak wielką skalę, przed jaką ostrzegają. Zarówno Amodei jak i Coxon są w tej kwestii zgodni, choć jednocześnie nie brakuje między nimi sporu. Ale o różnicach za chwilę.
Możemy oczywiście zadać pytanie czy zasadne jest mówienie o "prawdziwym" Armagedonie w odniesieniu do świata cyfrowego. I - niestety - odpowiedź jest jak najbardziej twierdząca, ponieważ obecnie tak wiele przestrzeni naszego codziennego życia, od organizacji pracy, przez infrastrukturę krytyczną, zdrowie i bezpieczeństwo - jest przeniesione lub w istotnym stopniu uzależnione od systemów cyfrowych, że utrata kontroli nad tym światem będzie miała jak najbardziej fizyczne konsekwencje. Współcześnie w wielu przestrzeniach po prostu nie potrafimy już żyć bez ułatwień, jakie daje nam rzeczywistość cyfrowa i ewentualna utrata tych systemów i baz danych najpierw doprowadziłaby do potwornego chaosu, a następnie przez długie miesiące musielibyśmy na nowo uczyć się sposoby funkcjonowania w świecie bez internetu.
Wróćmy jednak do czarnego scenariusza, jaki roztaczają Amodei i Coxon. Szef Antrophica wzywa do spowolnienia prac nad rozwojem AI, gdyż jego zdaniem roje niekontrolowanych agentów AI (czyli samodzielnie działających cyfrowych botów) będą w stanie przeprowadzać niebawem takie ataki cybernetyczne, które mogą doprowadzić do utraty kontroli nad ważnym segmentem naszego cyfrowego życia na ogromną skalę. Podobne zagrożenia widzi Jacob Coxon, z tą jednak różnicą, że były pracownik firm Open AI i Antrophic oskarża o doprowadzenie do tej sytuacji również firm prowadzoną przez Amodei. Mamy więc sytuację klasycznego konfliktu. To o tyle interesujące, że Antrophic jest firmą założoną przez byłych pracowników Open AI i od początku swojego istnienia buduje wizerunek instytucji zajmującej się rozwojem sztucznej inteligencji w sposób odpowiedzialny. W domyśle - w przeciwieństwie do "tych drugich". Zarzuty stawiane przez Coxona stawiają tę narrację pod znakiem zapytania, choć oczywiście nie są przesądzające. W ich kontekście jednak trudno nie zadać sobie pytania, na ile przemyślenia szefa firmy tworzącej "Claude'a" są wyrazem rzeczywistej troski, a na ile elementem marketingowej gry.
Unsplash
