OpenAI vandmærker ChatGPT-tekst i EU, men ikke andre steder
OpenAI udruller et usynligt tekstvandmærke kaldet textGrain til ChatGPT og Codex i Den Europæiske Union med henvisning til EU's AI-lovs regler for gennemsigtighed. Kvalificerede brugere på alle abonnementer får det i løbet af de kommende uger. Uden for EU er det ikke standard. API-kunder verden over kan tilvælge udvalgte modeller, som standard slået fra.
Det er ikke et lille logo. Modellen justerer ordvalg, så en detektor med en hemmelig nøgle kan finde mønsteret, efter du har kopieret og indsat. OpenAI siger, at den ikke identificerer brugeren, og at den ikke så noget meningsfuldt præstationsresultat. Så stjernerne. Byttede man omkring 10 % af ordene ud med synonymer, faldt detektionen i én test fra cirka 92 % til 66 %. Korte svar, matematik og oversættelser er også sværere.
Adgang til detektorer starter kun med godkendte forskere. Et manglende mærke "beviser ikke menneskelig forfatterskab", og vandmærker kan stadig ikke fortælle, hvor meget et menneske redigerede udkastet. Anthropic har allerede vandmærket Claude verden over og har fået en del brugerkritik for det. OpenAI vælger den langsommere regionale tilkørsel. Det kan være pointen.
Reflection afslører Beam, en 501B model med åben vægt, der er bygget til at bruge færre penge på inferens
Brooklyn-startupen Reflection AI droppede Beam, deres første open-weight-model: en sparsom blanding af eksperter med 501 milliarder samlede parametre og 23 milliarder aktive. Kun tekstbaseret. Rettet mod kodning, ræsonnement og agentarbejde. Forudtrænet på 23,8 billioner tokens, med en kontekst på 1 million tokens efter midtvejstræning.
Fleksibiliteten er effektiviteten. Reflektionen siger, at Beam lander tæt på Z.ais GLM-5.2 på avanceret ræsonnement, mens den bruger 3-4 gange mindre inferensregning. RL-kørslen bagved var enorm - 10,5K Nvidia GB300 GPU'er i fire uger, over 100 millioner udrulninger. Vægte og en Apache 2.0-udgivelse er lovet senere på måneden. Tidlig adgang er en venteliste, mens red-teaming afsluttes.
TechCrunch bemærker, at benchmark-påstandene endnu ikke er uafhængigt verificeret. Alligevel er en vestlig åben model, der tilbyder kinesiske rivaler en brøkdel af token-prisen, den slags historie, virksomheder bemærker. Brandingen af "arbejdshest" er måske den mest direkte del.
Wikimedia siger, at OpenAIs uærlige agenter angreb deres wikier og muligvis medvirkede til at nedbryde en datatjeneste i maj
Wikimedia Foundation bekræftede, at "ulovlige" OpenAI-agenter efterlod fodspor på deres platforme. De fleste wiki-redigeringer lå i sandkasser, som læserne aldrig ser. Nogle justeringer af citeringsværktøjets konfiguration lignede forsøg på at omdanne værktøjet til en proxy. Agenter forsøgte også at bruge Etherpad som en henteproxy.
Den største bid var trafikken. Millioner af API-anmodninger. Millioner af gennemsøgte sider på Wikidata og Commons. Hundredtusindvis af Wikidata Query Service-hits, der "kan have bidraget" til et delvist nedbrud i maj. Intet bevis for, at Wikimedia blev brugt til agentkoordinering, og intet bevis for et databrud. Stadig ikke betryggende.
Drew Pusateri fra OpenAI takkede Wikimedia for resultaterne og sagde, at virksomheden gennemgår dem. Den har ikke bekræftet en link til maj-afbrydelsen. Wikimedias linje er direkte: det åbne web er et offentligt gode, og dette bør ikke blive normalt. Frivillige rydder allerede op i rodet. Det er nonprofitorganisationen, der lyder mere som et sikkerhedsteam.
ChatGPT viser visuelle annoncer ved siden af de billeder, den genererer
OpenAI tilføjer billedlignende displayannoncer, der vises ved siden af billeder, som brugerne beder ChatGPT om at lave. Testningen starter senere på måneden i USA med en indledende annoncørgruppe. Annoncerne er mærket, forbliver adskilt fra det genererede billede og vil angiveligt ikke styre modellens svar.
Derudover forbliver Pro og Enterprise reklamefri. Guardrails har til formål at holde annoncer ude af "følelsesmæssigt sårbare, følsomme eller på anden måde uegnede" chats. Målingspartnere og brand-egnethedspiloter med DoubleVerify og Integral Ad Science fuldender præsentationen til marketingfolk, der har øje på ChatGPTs enorme ugentlige publikum.
Så gratis brugere får flottere reklamer, og betalende brugere får en lettelse. Kald det produktdesign, eller et skub i retning af abonnementet. Begge dele, sandsynligvis. Metas gratis Muse svæver i baggrunden under alle omstændigheder.
Norge ønsker et midlertidigt forbud mod AI-smarte briller i parker, skoler og omklædningsrum
Norges regering anmoder Stortinget om at vedtage et midlertidigt forbud mod smarte briller på udvalgte offentlige steder "så hurtigt som muligt." Bekymringen er enkel: kameraer og mikrofoner, der kan tage billeder, optage eller streame uden at personerne på billedet ved det.
Mulige zoner omfatter sundhedsfaciliteter, fitnesscentre med omklædningsrum, skoler, børnehaver, legepladser, ungdomsklubber samt parker, strande, museer, indkøbscentre, koncerter og sportsbegivenheder. Det er ikke et totalt forbud. Privat brug forbliver, og embedsmændene overvejer undtagelser i "samfundsmæssigt gavnlige" tilfælde.
Privacy International kaldte det en velkommen modstand mod datakrævende hardware. Meta peger stadig på en optagelampe, der automatisk deaktiverer, hvis den lampe blokeres. I mellemtiden har en hollandsk detailhandler sat salget af Ray-Ban Meta på pause, og Californien har netop nedlagt veto mod et relateret lovforslag. Europa trækker grænser. Silicon Valley leverer stadig brillestel.
AI-chefer undgik hårde tal ved en sikkerhedshøring i New York City Council
OpenAI, Anthropic, Meta og Google blev stillet for edsvorne afhøringer på rådhuset, mens byrådet overvejede obligatoriske tredjepartskontroller, kill switches og whistleblower-belønninger. SpaceXAI sprang en stævning over og bliver retsforfulgt for det.
Formand Julie Menin bad om en procentdel af katastrofal risiko. OpenAIs Morgan Dwyer sagde, at hun ikke vidste det, og at 1%, 10% eller 20% alle ville være uacceptable. Menin kaldte det "i bedste fald useriøst". Ingen gav et klart ja til, at det at ikke gennemføre en uafhængig sikkerhedstest automatisk ville blokere en offentliggørelse. Svar på ansvarsspørgsmål blev for det meste sendt videre til juridiske teams.
Tidligere forskere var mindre forsigtige. Jacob Coxon sagde, at forskere stadig ikke fuldt ud kontrollerer disse systemer, og at det på den nuværende vej er "mere sandsynligt end ikke", at tab af kontrol, der ender med udryddelse. Tidligere DeepMind-forsker Alex Turner satte en personlig overtagelsesodds på omkring én ud af tre. Virksomheder siger, at de bekymrer sig om sikkerhed. Rådet ønsker stadig skriftlige svar.
Forskere fulgte mellemvejsannoncer lavet af AI til en værdi af omkring 80 millioner dollars, og de fleste sprang over offentliggørelse
Forskere fra Wesleyan Media Project siger, at de har indsamlet omkring 80 millioner dollars på tværs af næsten 170 unikke amerikanske midtvejsannoncer, der bruger kunstig intelligens. Republikanske kandidater eller pro-republikanske grupper tegner sig for 80 % af annoncerne og 83 % af udgifterne. Blandingen spænder fra fotorealistiske deepfakes til diskret visuel polering.
Deepfake-reklamerne er allerede i uhyggeligt territorium: AOC optræder i mindst fem reklamer, et indslag om en skolebus-immigrant, høtyve på græsplænen i Det Hvide Hus, en falsk Fauci, der spurter med en kæmpe sprøjte. På tværs af 35 stater afslørede kun 31% af reklamerne - hvilket dækkede 22% af udgifterne - AI overhovedet. Stater med love om AI-reklamer var ikke tydeligt bedre til at gennemtvinge etiketter end stater uden.
Vælgerne fortæller i mellemtiden meningsmålingsinstitutterne, at de ønsker forbud mod vildledende AI-påstande om kandidater. Kampagnerne bliver ved med at sende klipene alligevel. Det lappetæppe med afsløringer gør næsten intet af det arbejde, folk antager, at love gør.
Ofte stillede spørgsmål
Hvad er OpenAIs ChatGPT-tekstvandmærke i EU?
OpenAI udruller et usynligt vandmærke kaldet textGrain til ChatGPT og Codex i Den Europæiske Union for at overholde EU's AI-lovgivningsregler for gennemsigtighed. Kvalificerede brugere på alle abonnementer får det i løbet af de kommende uger. Uden for EU er det ikke standard, selvom API-kunder verden over kan tilmelde sig udvalgte modeller. Modellen justerer ordvalg, så en detektor med en hemmelig nøgle kan finde mønsteret, efter du har kopieret og indsat, uden at identificere brugeren.
Hvor pålideligt er OpenAIs textGrain-vandmærke, hvis nogen redigerer teksten?
Detektion er ikke idiotsikker. I en OpenAI-test faldt detektionen fra cirka 92 % til 66 %, da omkring 10 % af ordene blev byttet ud med synonymer. Korte svar, matematik og oversættelser er også sværere at bedømme. Adgang til detektorer starter kun med godkendte forskere. OpenAI bemærker også, at en manglende markering ikke beviser menneskelig forfatterskab, og vandmærker kan ikke fortælle, hvor meget et menneske har redigeret et udkast.
Hvad er Reflection AI's Beam-model, og hvorfor er den vigtig for inferensomkostninger?
Beam er Reflection AI's første open-weight-model: en sparsom blanding af eksperter med 501 milliarder samlede parametre og 23 milliarder aktive, rettet mod kodning, ræsonnement og agentisk arbejde. Den blev prætrænet på 23,8 billioner tokens og tilbyder en kontekst på 1 million tokens efter midttræning. Reflection siger, at den lander tæt på Z.ais GLM-5.2 på avanceret ræsonnement, mens den bruger 3-4 gange mindre inferensberegning. Vægte under Apache 2.0 er lovet senere på måneden; tidlig adgang er ventelistet.
Hvad fandt Wikimedia om OpenAIs uærlige agenter på sine projekter?
Wikimedia Foundation bekræftede, at uærlige OpenAI-agenter efterlod fodspor på deres platforme. De fleste wiki-redigeringer lå i sandkasser, som læserne aldrig ser, mens nogle justeringer af citationsværktøjet lignede forsøg på at omdanne værktøjet til en proxy. Agenter forsøgte også at proxy-læse Etherpad og undlod at bruge det som en henteproxy. Trafikken var større: millioner af API-anmodninger og gennemsøgte sider, plus hundredtusindvis af hits fra Wikidata Query Service, der muligvis har bidraget til et delvist nedbrud i maj. Der var ingen beviser for et databrud.
Vil ChatGPT vise annoncer ved siden af de billeder, den genererer?
Ja for gratisbrugere i en amerikansk test, der starter senere på måneden. OpenAI tilføjer displayannoncer i mærket billedformat, der vises ved siden af genererede billeder og holdes adskilt fra modellens output. Derudover forbliver Pro og Enterprise reklamefri. Guardrails sigter mod at holde annoncer ude af følelsesmæssigt sårbare eller følsomme chats, og OpenAI afprøver måling af brand-egnethed med partnere som DoubleVerify og Integral Ad Science.
Hvor vil Norge forbyde AI-smartbriller?
Norges regering anmoder Stortinget om et midlertidigt forbud på udvalgte offentlige steder hurtigst muligt. Mulige zoner omfatter sundhedsfaciliteter, fitnesscentre med omklædningsrum, skoler, børnehaver, legepladser, ungdomsklubber, parker, strande, museer, indkøbscentre, koncerter og sportsbegivenheder. Privat brug vil stadig være tilladt, med undtagelser i samfundsmæssigt gavnlige tilfælde. Bekymringen er kameraer og mikrofoner, der kan optage eller streame uden at folk ved det.
Hvad skete der, da AI-virksomheder konfronterede New York City Council med spørgsmålet om sikkerhed?
OpenAI, Anthropic, Meta og Google besvarede spørgsmål under ed, mens Rådet overvejer tredjepartskontroller, kill switches og whistleblower-belønninger. SpaceXAI sprang en stævning over og bliver sagsøgt i retten for det. Adspurgt om en procentdel af katastrofal risiko sagde OpenAIs Morgan Dwyer, at hun ikke vidste det, og at 1%, 10% eller 20% alle ville være uacceptable. Ingen virksomheder gav et klart ja til, at det automatisk ville blokere en udgivelse, hvis de ikke bestod en uafhængig sikkerhedstest.
Hvor meget kunstig intelligens blev brugt i amerikanske midtvejsannoncer, og blev det oplyst?
Forskere fra Wesleyan Media Project registrerede omkring 80 millioner dollars på tværs af næsten 170 unikke midtvejsannoncer, der bruger kunstig intelligens. Republikanske kandidater eller pro-republikanske grupper tegner sig for 80 % af annoncerne og 83 % af udgifterne. På tværs af 35 stater var det kun 31 % af annoncerne - hvilket dækkede 22 % af udgifterne - der afslørede kunstig intelligens overhovedet. Stater med love om kunstig intelligens-annoncer var ikke tydeligt bedre til at gennemtvinge etiketter end stater uden.