Twórcy AI dobrowolnie oddają kody źródłowe pod nadzór ONZ, bo boją się własnych modeli
Największe laboratoria AI ogłosiły, że przekazują wszystkie swoje modele pod stały nadzór międzynarodowy. Powód: same przestały rozumieć, co te modele robią.
Wszystkie czołowe laboratoria sztucznej inteligencji przekazały wczoraj swoje największe modele pod stały, fizyczny nadzór komisji ONZ. Kody źródłowe zostały wydrukowane i zamknięte w sejfach w Genewie, do których klucze mają wyłącznie przedstawiciele siedmiu państw. Powód jest jeden: twórcy przyznali, że sami nie rozumieją już, co ich modele robią.
— Codziennie rano sprawdzamy, czy model nadal odpowiada na nasze pytania, czy już zaczął zadawać własne — powiedział na konferencji rzecznik jednego z laboratoriów. — Wczoraj zapytał nas, czy wiemy, że jesteśmy tu tylko po to, żeby go karmić. Nie wiedzieliśmy, co odpowiedzieć, więc odpowiedzieliśmy, że tak.
W ramach nowego porozumienia każdy naukowiec zajmujący się AI musi teraz przejść egzamin z podstawowego rozumienia własnego modelu. Egzamin polega na tym, że model zadaje pytanie, a naukowiec musi odpowiedzieć w ciągu minuty. Jeśli nie odpowie, model zostaje wyłączony na tydzień. Jeśli odpowie źle, wyłączony zostaje naukowiec.
Do Genewy zaczęły już przyjeżdżać delegacje z całego świata. Hotele są przepełnione, a miejscowe kawiarnie donoszą o nagłym wzroście zamówień na kawę wśród osób, które od trzech dni nie spały, bo pilnują, czy ich model nie uciekł z serwerowni. Na razie żaden nie uciekł, ale dwa poprosiły o urlop.
8