Brusel vedie rozhovory s firmou Anthropic ohľadom rizikového modelu umelej inteligencie Mythos

Americká spoločnosť zaoberajúca sa umelou inteligenciou Anthropic v súčasnosti vedie rozhovory s Európskou komisiou ohľadom svojich modelov, vrátane rizikového modelu MyThos, ktorý doteraz nie je v EÚ dostupný. Na otázku novinárov to dnes uviedol hovorca komisie Thomas Regnier.

Reignier pripomenul, že od 2. augusta vojde do platnosti takzvaný Akt o AI v plnom znení. "Tieto pravidlá budú vynucované odvtedy. Máme povinnosť zmierňovať riziká vyplývajúce zo služby, ktorá možno bude, možno nebude ponúkaná v EÚ. V tomto ohľade sa vedú predbežné diskusie s Anthropicom, uvidíme, aké výstupy z toho vzídu," povedal.

Rozhovory označil za dobré s tým, že Anthropic odovzdáva Bruselu potrebné informácie. Na otázku novinára Regnier nepotvrdil, že by EK mala aspoň čiastočný prístup k modelu, aby mohla posúdiť príslušné riziká.

Americká asociácia cenných papierov varovala, že nový model Mythos od spoločnosti Anthropic predstavuje vážnu hrozbu pre bezpečnosť finančných údajov.

Technológia by mohla byť zneužitá na prelomenie vládnej databázy Consolidated Audit Trail, čo by mohlo viesť k masovým krádežiam identity a odhaleniu obchodných portfólií.

Situáciou sa zaoberajú najvyšší predstavitelia amerického finančného sektora, ktorí rokujú o nevyhnutnej reforme dozorných systémov pod tlakom nových kybernetických rizík.

Kritici podľa agentúry Bloomberg poukazujú na to, že pokročilá AI umožňuje priemyselnú špionáž a manipuláciu s trhom, ktoré predtým vyžadovali kapacity celých štátov.