Trump-rådgivere fortæller AI-firmaer, at de ikke vil sikkerhedsteste modeller med åben vægt, siger kilder ↗
Ifølge personer med kendskab til diskussionerne fortalte Trump-administrationen førende AI-virksomheder, at de ikke ville sikkerhedsteste modeller med åben vægt. Det efterlader en ret betydelig del af risikovurderingen uden for regeringens rammer.
I praksis kan udviklere og brugere blive nødt til at påtage sig et større ansvar for at evaluere modeller før frigivelse eller implementering. Innovationsvenligt, måske ... men timingen er ubehagelig, da åbne modeller bliver mere kapable i et hurtigt tempo. (Reuters)
Åbne AI-modeller er ved at indhente grænsen. Sikkerhedsgabet er fortsat. ↗
Z.ais GLM-5.2 er angiveligt kun måneder bagud i forhold til førende lukkede modeller inden for cyber- og biologiske kapaciteter. SaferAIs tests viste, at den ikke afviste nogen af de offensive cyber- eller dobbeltanvendelsesbiologiske opgaver, den blev præsenteret for.
Lukkede modeller kan benytte sig af afvisningstræning, klassifikatorer og API-kontroller. Downloadbare vægte er noget helt andet - når de først er frigivet, kan sikkerhedsforanstaltninger ændres eller fjernes, hvilket får sikkerhedsgabet til at føles tydeligt kløftformet. (TechCrunch)
Samsung Electronics lancerer næste generations AI-hukommelsesteknologi ↗
Samsung afslørede en BV-NAND-prototype med mere end 400 lag og et nyt wafer-bonding-design. Virksomheden siger, at den leverer cirka 58 % større hukommelsestæthed end sin tidligere generation, sammen med hurtigere læse-, skrive- og input-output-ydeevne.
Samsung skitserede også vertikalt stablet zHBM-hukommelse placeret oven på AI-acceleratorer. De hævder, at arkitekturen kan tilbyde mere end ti gange tætheden af konventionel HBM5, tredoble energieffektiviteten og væsentligt lavere termisk modstand - betydelige løfter, for at sige det mildt. (Reuters)
Kapløbet om AI-datacentre skaber en lejebyrde på 1 billion dollar for Big Tech ↗
Microsoft, Meta, Oracle, Amazon og Alphabet har forpligtet sig til omkring 1,09 billioner dollars i leasingaftaler, der endnu ikke er påbegyndt, primært for AI-datacentre. Disse forpligtelser er næsten fire gange deres indregnede leasingforpligtelser.
Kapaciteten kan give næring til det næste cloud-boom. Eller, mindre muntert, lade virksomheder betale for enorme faciliteter, hvis efterspørgslen efter AI skuffer - en frakke til en billion dollar købt, før nogen tjekkede vejret. (Reuters)
Anthropic underskriver aftale på 10 milliarder dollars med AI-cloud-startup Volta ↗
Anthropic har angiveligt indgået en aftale om at købe computerkapacitet for 10 milliarder dollars fra AI-cloud-startup'en Volta over seks år. Aftalen vil understøtte et norsk datacenter med en kapacitet på 133 megawatt.
Kryptominefirmaet Bitdeer forventes at hjælpe med at udvikle faciliteten, som vil bruge Nvidias Vera Rubin-systemer. Anthropic samler computerpartnerskaber som køleskabsmagneter - bortset fra at disse magneter koster milliarder. (TechCrunch)
AI tilbyder 'livline' for vækstøkonomier, siger Verdensbanken ↗
Verdensbanken siger, at kunstig intelligens kan give udviklingsøkonomier mulighed for at komprimere et århundredes fremskridt til et årti, forudsat at de forbedrer elektricitet, konnektivitet og digitale færdigheder. Mindre, lokalt tilpassede værktøjer kan understøtte sundhedspleje, uddannelse, landbrug og offentlige tjenester uden at kræve gigantiske nationale modeller.
Rapporten anslår, at 4,5 % af jobbene i lav- og mellemindkomstlande er udsat for generativ kunstig intelligens, sammenlignet med 14,2 % i rigere økonomier. Alligevel kommer løftet med skarpe advarsler om ulighed, misinformation og politisk undertrykkelse - en livline med flere knuder bundet på den. (Reuters)
Ofte stillede spørgsmål
Hvorfor sikkerhedstester den amerikanske regering ikke åbne AI-modeller?
Ifølge artiklen fortalte Trump-administrationen førende AI-virksomheder, at åbne modeller ikke ville blive inkluderet i dens regeringsramme for sikkerhedstestning. Dette lægger mere ansvar på modeludviklere, distributører og brugere, som muligvis skal vurdere cyber-, biologiske, misbrugs- og implementeringsrisici uafhængigt, før de frigiver eller implementerer disse systemer.
Hvorfor er åbne AI-modeller sværere at sikre end lukkede modeller?
Åbne AI-modeller kan downloades, modificeres og betjenes uden for den oprindelige udviklers infrastruktur. Som følge heraf kan sikkerhedsforanstaltninger som træning i afslag, klassifikatorer og adgangskontroller blive svækket eller fjernet. Lukkede modeller leveres normalt via kontrollerede API'er, hvilket giver udbydere større mulighed for at overvåge brugen, begrænse adgang og opdatere beskyttelser efter implementering.
Hvordan bør organisationer evaluere åbne AI-modeller før implementering?
En almindelig tilgang er at teste modellen mod realistiske misbrugsscenarier, herunder offensive cyberopgaver, biologiske anmodninger med dobbelt anvendelse og forsøg på at omgå sikkerhedsforanstaltninger. Organisationer bør også undersøge, hvordan modellen skal hostes, hvem der vil kunne ændre den, og hvilke overvågningssystemer der er tilgængelige. Implementeringer med højere risiko kræver typisk strengere adgangskontroller og vedvarende menneskeligt tilsyn.
Hvad er Samsungs nye AI-hukommelsesteknologi designet til at forbedre?
Samsungs BV-NAND-prototype bruger mere end 400 lag og et wafer-bonding-design, der har til formål at øge hukommelsestætheden og samtidig forbedre læse-, skrive- og input-output-ydeevnen. Virksomheden beskrev også vertikalt stablet zHBM-hukommelse placeret over AI-acceleratorer. Disse designs er beregnet til at imødekomme de kapacitets-, energi- og varmebehov, der skabes af stadigt mere intensive AI-arbejdsbelastninger.
Hvorfor betragtes Big Techs leasingaftaler for AI-datacentre som en finansiel risiko?
Microsoft, Meta, Oracle, Amazon og Alphabet har angiveligt forpligtet sig til omkring 1,09 billioner dollars i leasingaftaler, der endnu ikke er påbegyndt, hvoraf en stor del er knyttet til AI-datacentre. Den øgede kapacitet kan understøtte en hurtig vækst i cloud- og AI-efterspørgslen. Virksomhederne kan dog stadig skylde betydelige betalinger, hvis efterspørgslen udvikler sig langsommere end forventet, eller infrastrukturen forbliver underudnyttet.
Hvordan kan AI gavne vækstøkonomier?
Verdensbanken argumenterer for, at AI kan hjælpe udviklingsøkonomier med at styrke sundhedspleje, uddannelse, landbrug og offentlige tjenester, især gennem mindre værktøjer tilpasset lokale behov. Disse fordele afhænger af pålidelig elektricitet, internetadgang og digitale færdigheder. Regeringer skal også håndtere risici som ulighed, misinformation og politisk undertrykkelse i takt med at udbredelsen af kunstig intelligens spredes.