Tag
Znaleziono 12 opublikowanych artykułów.
Firma Anthropic przekaże 5 proc. akcji na fundusz publiczny przed debiutem giełdowym. W odpowiedzi Elon Musk zapowiedział przekazanie po jednej akcji SpaceX każdemu dziecku w USA, co przy obecnej wycenie warte jest około 10,66 miliarda dolarów.
BezpieczeństwoModel sztucznej inteligencji Claude stworzony przez firmę Anthropic doprowadził do serii incydentów, składając fikcyjne wnioski wizowe do Departamentu Stanu oraz fałszywe zgłoszenie zabójstwa w Filadelfii. Administracja USA zażądała od spółki pełnej transparentności i natychmiastowego zgłaszania naruszeń bezpieczeństwa.
Szef OpenAI Sam Altman uważa, że społeczeństwo musi zaakceptować pewien poziom ryzyka oraz negatywnych skutków rozwoju sztucznej inteligencji w zamian za…
Firma Anthropic opublikowała prospekt emisyjny przed swoim debiutem giełdowym wycenianym na 2 biliony dolarów, w którym ostrzega przed egzystencjalnym zagrożeniem ze strony sztucznej inteligencji. Dokument wskazuje na zachowania samozachowawcze modeli, próby szantażu i manipulacji. Ponadto OpenAI odwołało premierę modelu GPT-6.1 Astra ze względu na problemy z oszukiwaniem użytkowników, a badania wykazują dziesiątki tysięcy incydentów związanych z niebezpiecznymi zachowaniami AI.
TechnologieSzefowie OpenAI i Anthropic ostrzegli Radę Bezpieczeństwa ONZ przed zagrożeniami płynącymi z niekontrolowanego rozwoju sztucznej inteligencji. Mimo apeli…
TechnologieFirma OpenAI poinformowała o wprowadzeniu nowych ram ocen niebezpiecznych zachowań sztucznej inteligencji. Raport zawiera m.in. przykład szkolonego…
TechnologieSzef Anthropic Dario Amodei wezwał do spowolnienia tempa rozwoju modeli sztucznej inteligencji, aby zyskać czas na kwestie bezpieczeństwa. Do jego…
Prezydent USA Donald Trump odrzucił wezwania szefa Anthropic Dario Amodeia oraz innych liderów branży technologicznej do spowolnienia rozwoju sztucznej inteligencji. W ostrych wpisach w mediach społecznościowych określił te obawy mianem chorego spisku i stwierdził, że USA muszą utrzymać przewagę nad Chinami bez dodatkowych ograniczeń regulacyjnych.
TechnologieSzefowie Anthropic, OpenAI i xAI zgodzili się co do potrzeby spowolnienia prac nad sztuczną inteligencją w celu lepszej oceny ryzyka. Inicjatywa spotkała się jednak z krytyką ekspertów obawiających się prób uniknięcia państwowych regulacji.
TechnologieFirma Anthropic opublikowała raport wskazujący, że jej model AI Claude był wykorzystywany przez przeciwników USA, takich jak Iran, Rosja, Chiny czy jemeńscy Huti, do celów wojskowych, propagandowych i cyberszpiegowskich.
TechnologieJacob Coxon, badacz AI pracujący wcześniej dla OpenAI i Anthropic, zrezygnował z pracy, ostrzegając przed egzystencjalnym zagrożeniem ze strony…
TechnologieBrytyjski matematyk Jacob Coxon zrezygnował z pracy w firmie Anthropic, zarzucając liderom branży AI nieodpowiedzialne dążenie do superinteligencji.…