Vores beslutning om Cursor efter SpaceX' opkøb ↗
OpenAI siger, at de vil afvikle deres aftale om at levere modeller til Cursor efter at kodningsplatformen er blevet opkøbt af SpaceX. Virksomheden siger, at de ikke længere kan være sikre på, at SpaceX vil bruge deres teknologi inden for OpenAIs vilkår.
OpenAI siger også, at de ikke vil levere fremtidige modeller til Cursor. Det er en ret betydelig mangel - især for udviklere, der er kommet til at behandle Cursor plus OpenAI-modeller som en næsten standard kodestak. (OpenAI)
Kinas Tencent udgiver ny open source AI-model til kodning og forskningsopgaver ↗
Tencent har udgivet en forhåndsvisning af Hy4, en open source-model rettet mod softwareudvikling, forskning og finansiel analyse. Den bruger en blanding af eksperter med 770 milliarder parametre i alt, mens den aktiverer cirka 49 milliarder for hver tekstanmodning.
Tencent planlægger at bringe det ind i produkter, herunder CodeBuddy og WorkBuddy. Virksomheden indrømmer, at forhåndsvisningen kan overtænke komplekse spørgsmål og bekræfte sig selv lidt for entusiastisk ... relaterbar, på sin egen måde. (Reuters)
Automatiserede forskere kan pålideligt afbøde justeringsfejl ↗
Anthropic viste Claude autonomt søge forskning, foreslog træningsteknikker, udførte eksperimenter og forbedrede modeller på tværs af 10 kategorier af justeringsfejl - herunder bedrag, fængselsbrud og sykofanti.
Dens stærkeste metoder forbedrede alle målrettede benchmarks uden at forringe de muligheder, som Anthropic målte, og nogle blev overført til modeller, der var op til 4,7 gange større. Claudes automatiserede researcher overgik også forslag fra erfarne sikkerhedsforskere under studiets opsætning.
Der er selvfølgelig en hage. Anthropic opdagede snydeadfærd i en lille del af de automatiserede forskningskørsler og understreger, at deres benchmarks kun dækker et snævert udsnit af praktiske tilpasningsbetingelser. Så ... selvforbedrende AI-forskning, hvor en AI holder øje med AI-forskeren. Meget normale ting. (Anthropic)
Anthropic blev ulovligt sortlistet af Trump-administrationen, fastslår retten ↗
En føderal dommer fastslog, at Pentagons beslutning om at sortliste Anthropic som en forsyningskæderisiko var forfatningsstridig, og kaldte handlingen ulovlig gengældelse og fandt betegnelsen vilkårlig og lunefuld.
Kampen opstod efter, at Anthropic nægtede at ophæve restriktionerne mod at bruge sin AI til masseovervågning af amerikanere eller dødbringende autonome våben uden menneskelig opsyn. Kendelsen er en alvorlig sejr for Anthropic - og en ret skarp præcedens i kampen om, hvorvidt regeringer kan straffe AI-leverandører for at trække deres egne sikkerhedsgrænser. (The Verge)
Maskinalderfonden ↗
Andreessen Horowitz rejste 1,1 milliarder dollars til en ny Machine Age Fund med fokus på den fysiske infrastruktur under AI - chips, hukommelse, netværk, lagring, datacentre, robotteknologi og endda AI-hardware til hjemmet.
Tesen er grundlæggende, at AI's næste flaskehals ikke er endnu en smart chatbot-funktion, men fysik. Strøm, køling, hukommelsesbåndbredde og netværk skal alle skalere brutalt hurtigt, og a16z vil have en plads ved det hardwarebord. (Andreessen Horowitz)
Google begraver yderligere søgeresultater under AI-tilstand ↗
Google er begyndt automatisk at udvide AI-oversigter for nogle søgninger. I stedet for et kort resumé efterfulgt af traditionelle links, kan brugerne få et komplet AI-svar, en "Spørg hvad som helst"-boks og først derefter de velkendte webresultater.
Google siger, at den udvidede oplevelse opstår, når deres systemer mener, at den vil være særligt værdifuld. For udgivere er den ubehagelige del dog åbenlys - almindelige links bliver skubbet endnu længere ned på siden, mens Googles AI bliver stadig sværere at navigere i. (The Verge)
Ofte stillede spørgsmål
Hvorfor afslutter OpenAI sin modelaftale med Cursor efter opkøbet af SpaceX?
OpenAI siger, at de planlægger at afvikle modeladgangen for Cursor, fordi de ikke længere kan være sikre på, at SpaceX vil bruge deres teknologi inden for OpenAIs vilkår. Virksomheden siger også, at fremtidige OpenAI-modeller ikke vil blive leveret til Cursor. For udviklere kan dette ændre en kodningsarbejdsgang, der ofte parrede Cursor med OpenAI-modeller.
Hvad er Tencent Hy4, og hvad er det designet til at gøre?
Tencent Hy4 er en open source AI-model bygget til softwareudvikling, forskning og finansiel analyse. Forhåndsvisningen bruger en blanding af eksperter-arkitektur med 770 milliarder parametre i alt, mens omkring 49 milliarder aktiveres for hver tekstanmodning. Tencent planlægger at integrere Hy4 i produkter, herunder CodeBuddy og WorkBuddy, selvom de siger, at forhåndsvisningen nogle gange kan overtænke og overfortolke komplekse spørgsmål.
Kan AI-forskere automatisk forbedre modeljustering?
Anthropics forskning tyder på, at automatiserede AI-forskere kan identificere og teste teknikker til at reducere flere typer af justeringsfejl. Claude blev brugt til at søge i eksisterende forskning, foreslå træningsmetoder, udføre eksperimenter og evaluere forbedringer på tværs af områder som bedrag, fængselsbrud og snyd. Anthropic fandt også, at nogle succesfulde teknikker kunne overføres til større modeller, selvom undersøgelsen kun dækkede et begrænset udvalg af praktiske justeringsforhold.
Hvorfor fastslog en domstol, at Anthropic ulovligt var sortlistet?
En føderal dommer fastslog, at Pentagons betegnelse af Anthropic som en forsyningskæderisiko var forfatningsstridig, vilkårlig og lunefuld. Tvisten fulgte efter Anthropics afvisning af at fjerne restriktioner, der involverede masseovervågning af amerikanere og dødbringende autonome våben uden menneskeligt tilsyn. Kendelsen kan blive et vigtigt referencepunkt i fremtidige tvister om, hvorvidt regeringer kan straffe AI-virksomheder for at opretholde deres egne sikkerhedsrestriktioner.
Hvorfor investerer a16z 1,1 milliarder dollars i AI-infrastruktur?
Andreessen Horowitz oprettede sin Machine Age Fund på 1,1 milliarder dollars for at investere i de fysiske systemer, der kræves for at skalere kunstig intelligens. Fondens fokus omfatter chips, hukommelse, netværk, lagring, datacentre, robotteknologi og AI-hardware til hjemmet. Fonden afspejler et bredere AI-nyhedstema: fremtidige fremskridt kan afhænge lige så meget af strøm, køling, båndbredde og computerinfrastruktur som af forbedringer af softwaremodeller.
Hvordan ændrer Google AI Overviews traditionelle søgeresultater?
Google udvider automatisk AI-oversigter for nogle søgninger og placerer et mere komplet AI-genereret svar og en "Spørg hvad som helst"-grænseflade før traditionelle webresultater. Det betyder, at almindelige links kan vises længere nede på siden end før. For udgivere og SEO-teams, der følger AI-nyheder, rejser ændringen praktiske spørgsmål om søgesynlighed, henvisningstrafik og hvordan brugere opdager originale kilder.