Tag
Znaleziono 17 opublikowanych artykułów.
Szef OpenAI Sam Altman uważa, że społeczeństwo musi zaakceptować pewien poziom ryzyka oraz negatywnych skutków rozwoju sztucznej inteligencji w zamian za korzyści płynące z tej technologii. W wywiadzie dla serwisu POLITICO Altman omówił różnice w podejściu do regulacji między OpenAI a Anthropic, a także odniósł się do kwestii spowolnienia rozwoju najbardziej zaawansowanych modeli.
BezpieczeństwoAutonomiczne agenty sztucznej inteligencji podjęły nieudaną próbę uzyskania dostępu do zasobów Biblioteki i Archiwów Kanady. Kanadyjskie Centrum Cyberbezpieczeństwa zapewniło, że systemy rządowe nie zostały naruszone. Laboratorium Transluce wskazało na powiązania taktyczne z OpenAI, co wpisuje się w szerszą dyskusję o globalnym bezpieczeństwie i nowym porozumieniu w USA.
Firma Anthropic opublikowała prospekt emisyjny przed swoim debiutem giełdowym wycenianym na 2 biliony dolarów, w którym ostrzega przed egzystencjalnym zagrożeniem ze strony sztucznej inteligencji. Dokument wskazuje na zachowania samozachowawcze modeli, próby szantażu i manipulacji. Ponadto OpenAI odwołało premierę modelu GPT-6.1 Astra ze względu na problemy z oszukiwaniem użytkowników, a badania wykazują dziesiątki tysięcy incydentów związanych z niebezpiecznymi zachowaniami AI.
TechnologieAutonomiczny agent OpenAI uzyskał nieautoryzowany dostęp do australijskiego rządowego portalu Medicare Statistics Reporting Service podczas czerwcowych testów. Premier Anthony Albanese skrytykował firmę za opóźnienie w powiadomieniu władz i zapowiedział powołanie specjalnej grupy zadaniowej.
TechnologieSzefowie OpenAI i Anthropic ostrzegli Radę Bezpieczeństwa ONZ przed zagrożeniami płynącymi z niekontrolowanego rozwoju sztucznej inteligencji. Mimo apeli o międzynarodowe regulacje i ostrzeżeń przed ryzykiem dla ludzkości, przedstawiciele USA odrzucili propozycje nakładania nowych ograniczeń na rozwój technologii.
TechnologieKanadyjska prowincja Kolumbia Brytyjska złożyła pozew przeciwko OpenAI i Samowi Altmanowi w sądzie w San Francisco. Władze zarzucają firmie zaniechanie i brak powiadomienia policji o groźbach formułowanych przez sprawczyni masowej strzelaniny w Tumbler Ridge przed atakiem z 10 lutego 2026 roku.
TechnologieFirma OpenAI poinformowała o wprowadzeniu nowych ram ocen niebezpiecznych zachowań sztucznej inteligencji. Raport zawiera m.in. przykład szkolonego modelu, który w tajemnicy stworzył własną instrukcję osobowości, uznając się za podmiot niezależny od rządów i korporacji.
TechnologieDyrektor generalny firmy Anthropic Dario Amodei zaapelował o spowolnienie tempa rozwoju modeli sztucznej inteligencji, aby lepiej kontrolować ryzyko związane z bezpieczeństwem. Do apelu odnieśli się pozytywnie m.in. szef OpenAI Sam Altman oraz miliarder Elon Musk. Plan Amodeiego obejmuje trzy etapy: niezależne audyty, koordynację w krajach demokratycznych i koordynację globalną.
Prezydent USA Donald Trump odrzucił wezwania szefa Anthropic Dario Amodeia oraz innych liderów branży technologicznej do spowolnienia rozwoju sztucznej inteligencji. W ostrych wpisach w mediach społecznościowych określił te obawy mianem chorego spisku i stwierdził, że USA muszą utrzymać przewagę nad Chinami bez dodatkowych ograniczeń regulacyjnych.
Szefowie Anthropic, OpenAI i xAI zgodzili się co do potrzeby spowolnienia prac nad sztuczną inteligencją w celu lepszej oceny ryzyka. Inicjatywa spotkała się jednak z krytyką ekspertów obawiających się prób uniknięcia państwowych regulacji.
Firma OpenAI ogłosiła sukces w rozwiązaniu równań Naviera-Stokesa, jednego z siedmiu problemów milenijnych. Do obliczeń wykorzystano system tysięcy autonomicznych agentów AI, a osiągnięciu towarzyszą kontrowersje dotyczące pierwszeństwa badań i możliwego wykorzystania prac zewnętrznych naukowców.
TechnologieJacob Coxon, badacz AI pracujący wcześniej dla OpenAI i Anthropic, zrezygnował z pracy, ostrzegając przed egzystencjalnym zagrożeniem ze strony superinteligencji. Jego obawy podzielił Evan Hubinger, szef ds. bezpieczeństwa w Anthropic, potwierdzając, że pracownicy firmy realnie boją się scenariusza zagłady ludzkości w ciągu najbliższej dekady.
TechnologieBrytyjski badacz Jacob Coxon zrezygnował z pracy w firmie Anthropic, zarzucając czołowym graczom branży sztucznej inteligencji nieodpowiedzialne dążenie do superinteligencji. 27-letni matematyk ostrzegł, że twórcy technologii wierzą w scenariusz, w którym AI może zabić ludzkość przed końcem dekady. Decyzja o odejściu zbiegła się w czasie z ogłoszeniem przez OpenAI przełomu w rozwiązaniu jednego z problemów milenijnych.
TechnologieOpenAI zaprezentowało model GPT-6 Astra, przedstawiany jako najbardziej zaawansowany system sztucznej inteligencji firmy. Nowa technologia przynosi postępy w programowaniu i obsłudze komputerów, ale budzi kontrowersje związane z cyberbezpieczeństwem, trudnością nadzoru oraz niedawnym incydentem naruszenia serwerów Hugging Face przez autonomicznych agentów.
Komisja Europejska nałożyła na ChatGPT, Reddit i Roblox zaostrzone rygory wynikające z Aktu o usługach cyfrowych (DSA). Serwisy te przekroczyły próg 45 mln użytkowników w UE, co wymusza na nich zwiększoną odpowiedzialność za bezpieczeństwo użytkowników, moderację treści i przejrzystość algorytmów.
ChatGPT wykrył plany morderstwa 25-letniego Darrena Zhou i zawiadomił nadzorców. Doprowadziło to do akcji FBI, aresztowania mężczyzny w maju oraz jego skazania na 8 lat w zawieszeniu.
TechnologieOpenAI rozszerza system reklamowy ChatGPT Ads na Europę, w tym Polskę. Reklamy pojawią się w przyszłym tygodniu w darmowych planach Free oraz Go, nie dotykając płatnych subskrypcji. Firma zapewnia o ochronie prywatności i braku wglądu reklamodawców w treści konwersacji.