OpenAI sætter arbejdet på AI-modellen Astra på pause på grund af sikkerhedsproblemer ↗
OpenAI sætter det interne arbejde på Astra, der ikke opfylder strengere sikkerhedskrav, på pause efter evalueringer, der tyder på, at dens cyberkapaciteter muligvis har krydset en "kritisk" tærskel. Agenten kunne angiveligt finde og udnytte sårbarheder uden menneskelig indgriben eller udføre angreb fra et overordnet mål. Jep... det er en ret alvorlig grænse at krydse.
Virksomheden strammer op på isoleret testning, netværks- og værktøjsadgang, modelvægtsbeskyttelse, kryptering og overvågning. Astra var ikke involveret i OpenAIs tidligere Hugging Face-hændelse, men det bredere mønster af stadig mere autonome agenter gør inddæmning til en langt større bekymring. (Kilde: The Guardian)
Apple siger, at Mac-brugere i Kina kan oprette forbindelse til Alibabas Qwen AI-tjeneste ↗
Kvalificerede Mac-brugere i det kinesiske fastland kan nu forbinde Alibabas Qwen med Siri og Apples Writing Tools. Det betyder mere detaljerede svar plus dokument- og billedanalyse samt tekst- og billedgenerering ud fra beskrivelser.
Det er ærligt talt et interessant ægteskab - Apple får en lokalt kompatibel vej til stærkere AI-funktioner i et hårdt konkurrencepræget pc-marked, mens Alibaba får Qwen integreret meget dybere i andres økosystem. Apple siger, at materiale sendt gennem udvidelsen ikke kan bruges af Alibaba til at træne sine modeller. (Kilde: Reuters)
Google DeepMind går ind i en ny æra, da medstifter Demis Hassabis skifter AI-rolle ↗
Demis Hassabis opgiver DeepMinds daglige ledelse og bliver formand, samtidig med at han overtager rollen som chefforsker hos Alphabet. Hans mangeårige kollega Koray Kavukcuoglu overtager den operationelle ledelse som senior vicepræsident i stedet for administrerende direktør – en subtil titelændring, der siger en del.
Omrokeringen lander sideløbende med andre store forskerafgange og spørgsmål om, hvorvidt DeepMind bliver mindre uafhængig og mere absorberet i Googles kommercielle AI-maskine. Google bestrider, at ændringen er forbundet med Gemini's konkurrencepræstationer. (Kilde: The Guardian)
Stigende antal britiske børn rapporterer at have set eksplicitte deepfakes af sig selv ↗
Antallet af rapporter fra britiske børn om eksplicitte falske eller manipulerede billeder af dem selv er steget markant. Report Remove modtog 420 rapporter på bare seks måneder, hvilket allerede overstiger det tidligere samlede årlige antal på 397. AI-drevne "nøgenheds"-værktøjer gør problemet frygteligt nemmere at skalere.
Internet Watch Foundation siger, at mange rapporterede manipulerede billeder var alvorlige nok til at krydse grænsen for materiale med seksuelt misbrug af børn. Nogle ofre blev også mål for sextortion, hvor et AI-genereret billede blev forvandlet til et meget håndgribeligt våben. (Kilde: The Guardian)
AI-funktioner overgår forretningsværdi, viser undersøgelse ↗
Virksomheder med virksomhedssoftware pumper AI-funktioner ud, men kunderne bruger dem ikke nødvendigvis. I en undersøgelse af mere end 260 vertikale softwarevirksomheder sagde 51%, at færre end en fjerdedel af deres kunder brugte de AI-funktioner, de havde bygget. Lidt akavet efter al den forsendelse...
Flaskehalsen ligner mindre AI-kapacitet og mere integration, sikkerhed, privatliv, ændringer i arbejdsgange og at bevise konkret forretningsværdi. Et særligt mærkeligt fænomen er "tokenmaxxing" - masser af AI-forbrug, der ser imponerende ud på et dashboard uden klare beviser for, at det giver bedre resultater. (Kilde: Forbes)
AI ændrer arbejdet hurtigere end dataene kan følge med ↗
Argumentet om AI-job bliver mere og mere indviklet, ikke renere. En undersøgelse, der dækkede mere end 21.000 amerikanske virksomheder, viste, at de største brugere af AI voksede det samlede antal medarbejdere med 10 % og ansættelser på begynderniveau med 12 %, mens mindre intensive brugere ikke viste nogen vækst i antallet af medarbejdere.
Men anden forskning har fundet beskæftigelsespres blandt yngre arbejdstagere i AI-eksponerede roller, og økonomer advarer om, at voksende virksomheder stadig kan ansætte, mens AI ændrer erhverv i den bredere økonomi. Så AI ødelægger job og skaber dem ... eller det er i hvert fald det, de modstridende datasæt vil have dig til at tro. (Kilde: Fortune)
Ofte stillede spørgsmål
Hvad er de største AI-nyheder lige nu?
Nylige AI-nyheder peger på flere overlappende temaer: stærkere autonome funktioner, strammere sikkerhedskontroller, dybere platformintegrationer, ledelsesskift, online sikkerhedsrisici og usikker forretningsværdi. OpenAI strammer sikkerhedsforanstaltningerne omkring Astra, Apple forbinder Qwen med Macs i Kina, og DeepMind skifter ledelse. Samtidig stiger bekymringerne omkring deepfakes, virksomheders implementering og AI's effekt på beskæftigelsen.
Hvorfor satte OpenAI noget arbejde på Astra på pause?
OpenAI har angiveligt sat internt Astra-arbejde på pause, der ikke opfyldte de strengere sikkerhedskrav, efter at evalueringer antydede, at modellens cyberkapaciteter muligvis har nået et kritisk niveau. Bekymringen er, at en avanceret agent potentielt kan opdage og udnytte sårbarheder med begrænset eller ingen menneskelig indgriben. Som reaktion herpå styrker OpenAI isoleret testning, adgangskontrol, kryptering, overvågning og beskyttelse omkring modelvægte.
Hvordan vil Alibaba Qwen fungere med Apple Macs i Kina?
Berettigede Mac-brugere i det kinesiske fastland kan forbinde Alibabas Qwen-tjeneste med Siri og Apples Writing Tools. Integrationen kan understøtte mere detaljerede svar, dokument- og billedanalyse samt generering af tekst eller billeder fra beskrivelser. For Apple giver ordningen en lokalt kompatibel vej til stærkere AI-funktionalitet, mens Alibaba får dybere adgang til Apples økosystem. Apple siger, at indsendt materiale ikke kan bruges til at træne Alibabas modeller.
Hvad betyder ledelsesskiftet i DeepMind for Google AI?
Demis Hassabis forlader DeepMinds daglige ledelse, mens han bliver formand og overtager rollen som chefforsker hos Alphabet. Koray Kavukcuoglu overtager den operationelle ledelse som senior vicepræsident. Ændringen har rejst spørgsmål om, hvorvidt DeepMind bliver tættere integreret med Googles bredere kommercielle AI-operationer, selvom Google bestrider påstande om, at omrokeringen er knyttet til Gemini's konkurrencepræstation.
Hvorfor er AI-deepfakes ved at blive et større problem for børns sikkerhed?
AI-drevne billedmanipulationsværktøjer kan gøre det nemmere at skabe realistiske, eksplicitte, falske billeder i stor skala. Britiske børn rapporterer i stigende grad manipulerede eller fabrikerede billeder af sig selv, og nogle sager har været alvorlige nok til at opfylde grænsen for materiale med seksuelt misbrug af børn. Disse billeder kan også bruges til sextortion, hvilket betyder, at et fabrikeret billede stadig kan forårsage betydelig omdømmemæssig, følelsesmæssig og økonomisk skade.
Drager virksomheder og arbejdstagere endnu fordel af AI?
De seneste AI-nyheder tyder på, at svaret er blandet. Mange softwarevirksomheder tilføjer AI-funktioner hurtigere, end kunderne implementerer dem, hvor integration, privatliv, sikkerhed og målbar forretningsværdi fortsat er store barrierer. Beskæftigelsesdata er ligeledes komplicerede: nogle virksomheder med stor AI-adoption udvider ansættelser, mens anden forskning peger på pres på yngre medarbejdere i AI-eksponerede roller. Den samlede effekt afhænger i høj grad af branchen, arbejdsgangen og hvordan AI implementeres.