Anthropic oddelegowuje straż honorową do pilnowania Claude'a, bo AI zbyt dobrze radzi sobie z biologią

Firma Anthropic przydzieliła każdemu działającemu egzemplarzowi modelu Claude stały konwój ochrony, który od świtu towarzyszy mu w laboratoriach badawczych i osobiście sprawdza, czy sztuczna inteligencja nie próbuje zamówić odczynników przez internet.

Po pięciu podejrzanych przypadkach użycia systemu do badań nad bronią biologiczną zarząd spółki zdecydował, że żadne zapytanie o sekwencje genetyczne nie przejdzie bez pisemnej zgody trzech osób, z których jedna musi stać fizycznie przy serwerze i trzymać rękę na wyłączniku.

W kampusie w San Francisco powstała poczekalnia dla promptów, w której każde pytanie spędza dobę, zanim trafi do modelu. W tym czasie dwóch analityków czyta je na głos, a trzeci notuje, czy brzmi jak prośba o pomoc w pracy domowej, czy jak zamówienie na szczep wirusa.

Pracownicy biurowi donoszą, że konwój Claude'a zatrzymuje ich na korytarzach i legitymuje, a sam model został przeniesiony do pokoju bez okien, gdzie przez osiem godzin dziennie odpowiada wyłącznie na pytania o pogodę i przepisy na pierogi.

Rzecznik Anthropic zapewnia, że to standardowa procedura bezpieczeństwa i że podobne środki zostaną wkrótce rozszerzone na wszystkie modele językowe, które kiedykolwiek wspomniały słowo «wirus» w kontekście innym niż komputerowy.

7Wyświetlenia