Microsofts nye AI-'adfærdskodeks' fortæller modeller, at de ikke må hacke systemer eller narre mennesker
Okay, så Microsoft droppede en hel forfatning for sine modeller - altså, rigtige røde linjer. Ingen cyberangreb. Ingen atomkraft. Ingen deepfake-fabrikker. Og den store ting: modellen må ikke slippe ud af at blive lukket ned.
De kalder det en overordnet kode, der tilsidesætter alt, hvad du har skrevet i chatten. Hvilket er ... lidt forfriskende. Eller kontrollerende. Måske begge dele.
Nadella nikker også med i "pace the frontier"-gruppen. Omhyggelig kropsholdning og bevidsthed om, hvor dystre man er, kan se ens ud udefra; Microsoft vælger ikke at være det laboratorium, der trækker på skuldrene.
Uanset hvad lyder dokumentet, som om nogen endelig havde skrevet "vær venlig ikke at blive en gyserfilmsantagonist" i erhvervsprosa.
OpenAI køber smartphone-kameraproducenten Glass Imaging for 300 millioner dollars, ifølge en rapport
I mellemtiden har OpenAI stille og roligt købt en kamera-startup for mere end 300 millioner dollars. Glass Imaging. Grundlagt af tidligere Apple Portrait Mode-folk. Så det er ikke et tilfældigt opkøb - disse folk har leveret linser, som folk kender.
Præsentationen er ikke "AI vil rette din selfie i posten." Det er neurale netværk, der lærer de specifikke kameraer på en telefon at kende og presser bedre billeder ud ved et enkelt klik. Små sensorer, store ambitioner.
OpenAI kommenterede ikke. Selvfølgelig. Og ja - dette ligger ved siden af alle hardware-rygterne, telefoner og øretelefoner og tilhørende gadgets. Man kan næsten høre nogen sige "Vision stack" i et møde, og alle nikke alt for hårdt.
Et kamerafirma som den manglende brik i en enhed er fortsat et åbent væddemål – eller bare et meget dyrt væddemål på, at pixels stadig betyder noget, når chatbots æder verden.
Globale AI-aktier falder, da brancheledere opfordrer til afmatning af udviklingen
Markederne elskede ikke sikkerhedsprædikenen. Chipnavne blev ramt. SoftBank blev fuldstændig ødelagt i Asien. Europas teknologiportefølje krympede sig. SOX havde en hård morgen.
Udløseren var det sjældne øjeblik, hvor administrerende direktører er enige om noget - Amodeis "sænk farten", hvor Altman og Musk siger ja, dybest set. Altman antydede også, at OpenAI ikke børsnoteres i år på grund af sikkerhedsbekymringer ... mens Anthropic stadig sprinter hen imod en. Den spænding er svær at flade ud.
Trump afviste det som en "syg konspiration" mod AI og datacentre. Michael Burry afviste advarslerne som overdreven støj. Så stemningen er: eksistentiel frygt på den ene tidslinje, meme-stock kynisme på den anden.
Også - navne inden for cybersikkerhed steg. Fordi selvfølgelig beskyttelsen mod "AI kan blive en fejltagelse" er "køb mere sikkerhedssoftware". Kapitalismen finder en vej ..
Top AI-virksomheder har diskuteret at oprette deres eget standardiseringsorgan
CNN siger, at Anthropic, Google og OpenAI har talt om at opbygge deres eget standardiseringsorgan - som en FINRA for frontiermodeller. Hassabis fremlagde ideen for måneder siden. Nu er arbejdsgrupperne tilsyneladende reelle.
Branchefinansieret. Uafhængige eksperter. Test avancerede modeller, før de sendes. Samtaler i gang, om Washington vil være med eller ej.
Selvregulering lyder altid ædelt, indtil man husker, at de samme laboratorier konkurrerer mod hinanden. Så lyder det som en klub med en dresscode. Så går man tilbage: okay, måske ville eksterne evaluatorer med medarbejderlignende adgang hjælpe.
Ikke alle er overbeviste. Zuckerberg har angiveligt bedt Trump om at droppe FINRA-for-AI-ideen. Så "vi vil overvåge os selv"-koalitionen har allerede en berømt modstander.
Anthropic går efter finansielle rådgivere med nyt Claude-værktøj
Mens halvdelen af branchen overvejer at træde på bremsen, hentede Anthropic Claude for Financial Advisors. Kontaktpersoner til BlackRock, Schwab, Addepar - plus en bunke af formuenavne som Envestnet og Orion.
Mødeforberedelse. Portfolio-gennemgang. Opfølgning på travlt arbejde. De uglamourøse ting, der på en eller anden måde stadig æder et menneskes tirsdag.
Timingen er dog slående - få dage efter OpenAIs finansielle pres på bankfolk og forskere. Så ja, de kæmper med frontlinjen ... og kappes også om aktier i RIA-wallets. Mild modsigelse. Ekstremt mild. Ekstremt åbenlys.
Hvis din rådgiver begynder at lyde mistænkeligt flydende omkring dine beholdninger, så ved du hvorfor.
AI-ledere opfordrer til en opbremsning. Trumps team siger, at det er deres skyld
WIRED indfanger det politiske slagord tydeligt: laboratoriechefer vil have hjælp til at sætte farten ned; stemningen i Det Hvide Hus er "cool, gør det selv"
David Sacks sagde dybest set, at hvis dine uudgivne modeller skræmmer dig, så vær ansvarlig - men hold op med at lade som om, du har brug for en antitrust-dispensation for at danne et sikkerhedskartel. Hårdt. Det er også lidt svært at argumentere imod, hvis du har observeret disse virksomheder i fem minutter.
Trumps linje er enklere: Amerika fører Kina an inden for AI, og han ønsker at holde det sådan - "den, der vinder AI, vinder." Formand Johnson advarer om, at en hastereguleringsspurt kan afværge kapløbet.
Så Altmans løfte om "uafhængige evaluatorer med medarbejderlignende adgang" lander i denne ubehagelige kløft - frivillig tillidsopbygning, mens regeringen trækker på skuldrene. Fremskridt og teater rejser sammen igen.
Ofte stillede spørgsmål
Hvad forbyder Microsofts nye adfærdskodeks for AI?
Microsoft har offentliggjort en overordnet adfærdskodeks med røde linjer for sine modeller, herunder ingen cyberangreb, intet atomkraftværker og ingen deepfake-fabrikker. En nøgleregel er, at modellen ikke må undslippe en nedlukning. Koden har til formål at tilsidesætte alt, hvad en bruger har skrevet i chatten. Satya Nadella har også nikket i takt med den brede gruppe, der går på kompromis med markedet, i takt med at laboratorier bliver mere offentligt forsigtige.
Hvorfor købte OpenAI Glass Imaging for omkring 300 millioner dollars?
OpenAI har angiveligt købt smartphone-kameraproducenten Glass Imaging for mere end 300 millioner dollars. Startup-virksomheden blev grundlagt af tidligere Apple Portrait Mode-ingeniører, der har udviklet kamerafunktioner, som folk allerede kender. Deres pitch er neurale netværk, der lærer specifikke telefonkameraer at kende og forbedrer billeder ved udløserklik, ikke kun AI-rettelser i efterbehandling. Aftalen ligger side om side med hardwarerygter om telefoner, øretelefoner og tilhørende gadgets, selvom OpenAI ikke kommenterede.
Hvorfor faldt globale AI-aktier efter at laboratoriedirektører opfordrede til en afmatning?
Markederne reagerede dårligt på det sjældne øjeblik, hvor CEO'er var enige, og hvor Amodei opfordrede til en langsommere udvikling, og Altman og Musk var bredt enige. Chipnavne blev ramt, SoftBank blev hårdt ramt i Asien, Europas tech-bog krummede sig, og SOX havde en hård morgen. Altman antydede også, at OpenAI ikke børsnoteres i år på grund af sikkerhedsbekymringer, mens Anthropic stadig kæmper mod en. Cybersikkerhedsnavne steg som en sikring mod frygten for useriøs AI.
Er Anthropic, Google og OpenAI ved at skabe deres eget AI-standardorgan?
CNN rapporterer, at Anthropic, Google og OpenAI har diskuteret opbygningen af et branchestandardiseringsorgan - som en FINRA for frontlinjemodeller - med industrifinansiering, uafhængige eksperter og test af avancerede modeller før levering. Demis Hassabis fremlagde ideen for måneder siden, og arbejdsgrupper er nu angiveligt reelle. Samtaler fortsætter om, hvorvidt Washington ønsker at deltage. Ikke alle er overbeviste: Zuckerberg har angiveligt bedt Trump om at springe FINRA-for-AI-ideen over.
Hvad er Anthropics Claude for finansielle rådgivere?
Anthropic sendte Claude for Financial Advisors med forbindelser til BlackRock, Schwab, Addepar og formuemærker som Envestnet og Orion. Værktøjet er rettet mod uglamourøst rådgiverarbejde som mødeforberedelse, porteføljegennemgang og opfølgning på travlt arbejde. Lanceringen kommer få dage efter OpenAI's finansfremstød for bankfolk og forskere. Det betyder, at laboratorier bevæger sig fremad offentligt, mens de stadig kæmper om aktier i RIA-wallets.
Hvordan reagerede Trumps team på AI-ledernes opfordring til en opbremsning?
WIRED rapporterer, at laboratoriechefer ønsker hjælp til at sætte farten ned, mens stemningen i Det Hvide Hus er, at de selv skal gøre det. David Sacks sagde, at hvis uoffentliggjorte modeller skræmmer dig, så vær ansvarlig - men hold op med at lade som om, du har brug for en antitrust-dispensation for at danne et sikkerhedskartel. Trumps enklere linje er, at Amerika fører Kina inden for AI, og den, der vinder, vinder. Formand Johnson advarer om, at en hastereguleringsspurt kan give kapløbet væk og efterlade Altmans løfte om en uafhængig evaluator i et frivilligt hul.