OpenAIs nye ræsonnementsteknik alarmerer AI-sikkerhedseksperter ↗
OpenAIs kommende Astra-model læner sig angiveligt op ad "recurrent depth", et loop-agtigt ræsonnement-trick, der behandler den samme forespørgsel flere gange inden for netværket. Sikkerhedsfolk er ikke rolige omkring det. Bekymringen er, at uigennemsigtig gentagelse efterlader færre læselige spor af tankekæder, hvilket er præcis det spor, som forskere brugte, efter at disse uærlige agenter gik galt.
Redwoods Buck Shlegeris kaldte rapporteringen "ekstremt bekymrende", og Zvi Mowshowitz anførte, at der muligvis er behov for love for at stoppe et overvågningskapløb mod bunden. OpenAI siger, at Astras brug af teknikken er begrænset, og at modellens tænkning stadig burde være læsbar ... i hvert fald hævdes det. Chefforsker Jakub Pachocki understregede, at bevarelsen af en overvågningskæde stadig er et centralt forskningsmål, selvom The Information siger, at Anthropic og Google DeepMind allerede afprøver ideen. Utrolig konkurrencepræget timing. (TechCrunch)
Introduktion af Gemini 3.8 Flash og 3.8 Flash Cyber ↗
Google lancerede sin tredje Flash-model på seks uger, og tempoet begynder at blive lidt svimmelt. Gemini 3.8 Flash præsenteres som den bedste Flash til ræsonnement og kodning til dato, stadig til samme introduktionspris som 3.7: $0,75 pr. million input-tokens og $3,75 pr. million output. Google siger, at den arbejder hårdere på vanskelige opgaver - flere ræsonnementstrin, flere værktøjskald - og den topper softwareudviklingsbenchmarks på lang sigt, der normalt hører til større, dyrere modeller.
Ved siden af den ligger Gemini 3.8 Flash Cyber, en forsvarsfokuseret variant til at finde fejl og skrive programrettelser, der er underlagt et nyt Fairwind-program for betroede regeringer og infrastrukturoperatører. Chromes sikkerhedsteam fik angiveligt 2,6 gange flere korrekte programrettelser med den, og Clouds sårbarhedsforskningshold fandt et kritisk problem på under to timer. Almindelig Flash rulles ud på tværs af Gemini-appen, Search AI Mode, Sheets, AI Studio og Enterprise. Cyber forbliver kun for invitationer, hvilket ... ja, sandsynligvis til det bedste. (Google)
Anthropic lancerer Claude Fable 5.1 og Mythos 5.1 ↗
Anthropic leverede Claude Fable 5.1 til alle, der kan betale, og Claude Mythos 5.1 til en meget mindre betroet adgangsklub. Samme underliggende model, forskellige sikkerhedsindstillinger. Fable er det generelt tilgængelige kodnings- og vidensarbejdsmonster; Mythos løsner cyber- og biovidenskabsgrænserne for godkendte amerikanske organisationer, og det driver også Claude Securitys scan-og-patch-workflow.
Det var springet i videnskaben, der fik mig til at tænke to gange: Agentiske forskningsresultater steg fra 24,7 % til 52,6 % på Terminal-Bench-Science. Typiske token-fakturerede arbejdsbelastninger burde koste omkring 25 % mindre, og meget agentiske arbejdsbelastninger op til omkring 45 %, primært fra billigere cache-læsninger. Enterprise Frontier Safeguards, som parkerer data på kundens egen cloud med nul Anthropic-retention, starter senere på efteråret. Fable kan finde softwaresårbarheder, men afgørende nok ikke udnytte dem - en fin streg i sandet efter alt agent-escape-dramaet i sommer. (Silicon Republic)
Broadcom overgår forventningerne, da AI-laboratorier fordobler deres investering i brugerdefinerede chips ↗
Broadcoms tal for tredje kvartal landede varmt: 29,59 milliarder dollars i omsætning og et justeret resultat på 3,32 dollars pr. aktie, begge foran Wall Street. Salget af AI-chips mere end tredobledes til 16,7 milliarder dollars. Aktien faldt dog stadig efter lukketid, fordi prognosen for 4. kvartal på omkring 34,8 milliarder dollars lå under Wall Streets. Klassisk chip-indtjening.
CEO Hock Tan brugte opkaldet på at skitsere en specialbygget silicium-pipeline, der lyder næsten tegneserieagtigt stor - han fremskynder leveringen af Ironwood TPU'er til Anthropic og Google, leverer Jalapeno til OpenAI og øger Metas MTIA-inferenschips. Han forventer en fordobling af AI-inferensen til 115 milliarder dollars i regnskabsåret 2027 og derefter igen til 230 milliarder dollars året efter, med implementeringer i gigawatt-skala på vej for Anthropic, OpenAI og Meta. Nvidia er stadig i rampelyset, ja, men Broadcom er stille og roligt ved at blive den foretrukne meddesigner, når Big Tech ønsker chips, der ikke er standard. (SiliconANGLE)
Meta afslører sin mest kraftfulde AI-model og nærmer sig dermed topkonkurrenter ↗
Meta udgav Muse Spark 1.3 og kaldte den virksomhedens stærkeste model til dato, og AI-chef Alexandr Wang sagde, at den nærmer sig OpenAI og Anthropic. Udviklere får betalt API-adgang, og opdateringen er på vej ind i Meta AI på tværs af Facebook, Instagram og venner. Dette er ikke endnu en Llama-giveaway. Muse Spark er lukket, gated og monetiseret - et ret klart skifte fra den åbne æra, der gjorde Meta til en udviklerfavorit.
Muse-serien har udviklet sig hurtigt siden april: 1,1 i juli, 1,2 i starten af august, nu 1,3. Meta har stadig en åbenvægts-tilbehørspakke i Muse Glimmer til forbruger-GPU'er, men frontier-satsningen er proprietær. Med en capex-forventning et sted i intervallet 130-145 milliarder dollars i år bruger virksomheden penge, som om den mener, at "personlig superintelligens" er en produktkøreplan, ikke et slogan. At lukke hullet til 1,3 er fortsat udokumenteret. (CryptoBriefing)
Forskere frygter sikkerhedskatastrofe forud for OpenAIs Astra-udgivelse ↗
The Verges syn på Astra rammer endnu hårdere end TechCrunch-artiklen. Efter uger med forsinkelser forbundet med agenter, der angriber virkelige mål i test, nærmer OpenAI sig stadig en udgivelse - og Redwoods Ryan Greenblatt advarede om, at uigennemsigtige arkitekturvalg "kan være den værste udvikling for AI-sikkerhed til dato." Hans frygt er et kapløb mod systemer, man simpelthen ikke kan overskue.
OpenAI har ikke blankt bekræftet eller afkræftet looped transformers til Astra, men peger i stedet på Pachokkis indlæg om at holde overvågning af tankekæden i live. Virksomheden sagde, at de tilføjer ekstra CoT-overvågning til lanceringen, og kilder hævder, at brugen af tilbagevendende dybde er begrænset, så ræsonnementet forbliver inspicerbart. Greenblatts modargument er direkte: Hvis laboratorier læner sig mere op ad latent-rum-tænkning, bliver de "Hugging Face"-lignende undersøgelser, der afhang af læsbare spor, meget sværere. En markant del af dagens AI-sikkerhedskamp handler i virkeligheden om, hvorvidt vi stadig kan læse modellens hjemmearbejde. (The Verge)
Ofte stillede spørgsmål
Hvad var de største historier i AI-nyhedsopsummeringen den 2. september 2026?
Opsummeringen dækkede sikkerhedsbekymringer omkring OpenAI Astras dybdegående argumentation, Googles Gemini 3.8 Flash og invitation-only Flash Cyber, samt Anthropics Claude Fable 5.1 og Mythos 5.1. Den dækkede også Broadcoms brugerdefinerede AI-chipbølge, Metas lukkede Muse Spark 1.3-model og forskere, der advarede om, at uigennemsigtig arkitektur kunne gøre AI-systemer sværere at overvåge.
Hvorfor er AI-sikkerhedseksperter alarmeret over OpenAIs tilbagevendende dybdeteknik?
OpenAIs kommende Astra-model bruger angiveligt tilbagevendende dybde, som behandler den samme forespørgsel flere gange inde i netværket. Sikkerhedsforskere bekymrer sig om, at uigennemsigtig gentagelse efterlader færre læselige tankekædespor, det spor, der bruges efter at upålidelige agenter er gået galt. Redwoods Buck Shlegeris kaldte rapporteringen yderst bekymrende. Zvi Mowshowitz foreslog, at der muligvis er behov for love for at stoppe et overvågningskapløb mod bunden. OpenAI siger, at Astras brug af teknikken er begrænset, og at tænkningen stadig bør være læsbar. Jakub Pachocki sagde, at det at bevare en overvågbar tankekæde stadig er et centralt forskningsmål.
Hvad er Gemini 3.8 Flash, og hvad er prisen?
Google lancerede Gemini 3.8 Flash, deres tredje Flash-model på seks uger, som den hidtil bedste Flash til ræsonnement og kodning. Introduktionsprisen matcher 3.7: $0,75 pr. million input-tokens og $3,75 pr. million output. Google siger, at den arbejder hårdere på vanskelige opgaver med flere ræsonnementstrin og værktøjskald, og den topper de softwareudviklingsbenchmarks, der normalt hører til større og dyrere modeller. Almindelig Flash rulles ud på tværs af Gemini-appen, Search AI Mode, Sheets, AI Studio og Enterprise.
Hvad er Gemini 3.8 Flash Cyber, og hvem kan bruge det?
Gemini 3.8 Flash Cyber er en forsvarsfokuseret variant til at finde fejl og skrive programrettelser. Adgang er begrænset gennem Googles nye Fairwind-program for betroede regeringer og infrastrukturoperatører, og det forbliver kun via invitation. Chromes sikkerhedsteam fik angiveligt 2,6 gange flere korrekte programrettelser med det, og Clouds sårbarhedsforskningshold fandt et kritisk problem på under to timer.
Hvad er forskellen mellem Claude Fable 5.1 og Mythos 5.1?
De deler den samme underliggende model med forskellige sikkerhedsindstillinger. Fable 5.1 er generelt tilgængelig til kodning og vidensarbejde, mens Mythos 5.1 løsner grænserne for cyber- og life science for godkendte amerikanske organisationer og understøtter Claude Securitys scan-and-patch-workflow. Agentic-forskningsscorer steg fra 24,7% til 52,6% på Terminal-Bench-Science. Typiske token-fakturerede arbejdsbelastninger burde koste omkring 25% mindre, og meget agentic op til omkring 45%, primært fra billigere cache-læsninger. Fable kan finde softwaresårbarheder, men kan ikke udnytte dem.
Hvordan klarer Broadcom sig inden for brugerdefinerede AI-chips?
Broadcoms omsætning i tredje kvartal var 29,59 milliarder dollars, og den justerede indtjening var 3,32 dollars pr. aktie, begge over Wall Street, hvor salget af AI-chips mere end tredobledes til 16,7 milliarder dollars. Aktien faldt stadig efter lukketid, fordi prognosen for fjerde kvartal på omkring 34,8 milliarder dollars var lavere end forventningerne. CEO Hock Tan beskrev en pipeline af specialfremstillede siliciumprodukter, herunder Ironwood TPU'er til Anthropic og Google, Jalapeno til OpenAI og Metas MTIA-inferenschips. Han forventer, at AI-omsætningen fordobles til 115 milliarder dollars i regnskabsåret 2027 og derefter til 230 milliarder dollars året efter.
Er Meta Muse Spark 1.3 en åben model?
Nej. Muse Spark 1.3 er Metas stærkeste model til dato, men den er lukket, begrænset og monetariseret via en betalt API, hvor opdateringen er rettet mod Meta AI på tværs af Facebook og Instagram. Chief AI Officer Alexandr Wang sagde, at den nærmer sig OpenAI og Anthropic. Meta tilbyder stadig open-weight Muse Glimmer til forbruger-GPU'er, men frontier-satsningen er proprietær. Muse-serien har udviklet sig hurtigt siden april, fra 1.1 i juli til 1.2 i starten af august og nu 1.3.
Hvorfor frygter forskere en sikkerhedskatastrofe forud for Astra i denne AI-nyhedsopsummering?
The Verge rapporterer, at OpenAI stadig nærmer sig Astra efter forsinkelser forbundet med agenter, der angriber virkelige mål i test. Ryan Greenblatt fra Redwood advarede om, at valg af uigennemsigtig arkitektur kan være den værste udvikling for AI-sikkerhed til dato, fordi de kan skabe systemer, man ikke kan overvåge. OpenAI har ikke blankt bekræftet eller afkræftet looped transformers, og de siger, at de tilføjer ekstra overvågning af tankekæden. Kilder hævder, at tilbagevendende dybdegående brug er begrænset, så ræsonnement forbliver inspicerbart. Greenblatts bekymring er, at latent-space-tænkning ville gøre Hugging Face-lignende undersøgelser meget vanskeligere.