Zamenja-va se je že zgodila med politiki ki so vrjetno vsi nadomeščeni s kloni. Mnogo jih tega žal ne opazi. Hladnost neodzivnost in ignoranca ter netenje zaigrane vojne in netenje lažnih pandemij, to je prvi pokazatelj da iimamo opravka z neljudmi.
Cilj je bil vedno nadomestiti ljudi. Zdaj pa dejansko začenja dobivati obliko.
Že leta nas opozarjajo poznavalci – inženirji, žvižgači, celotne ekipe v največjih svetovnih tehnoloških podjetjih. Videli so, kam gre umetna inteligenca ... in kaj se je z njo zgodilo.
Prezrli so jih, zavrgli in odpisali kot pretirane.
Maria Zeee izpostavlja vzorec, ki ga je vse težje prezreti – kjer se tehnologija, ki se je nekoč prodajala kot napredek, zdaj uporablja za nadzor, avtomatizirano vojskovanje in sistematično nadomeščanje človeškega dela v velikem obsegu.
In kaj je pri tem najbolj nevarno?
To ni vpogled v prihodnost. To se že dogaja.
Nocoj nadaljujemo z 2. delom naše serije »Velika ponastavitev: Naslednja faza« – in to, kar vam bomo pokazali, jasno pove eno stvar: Ta naslednja faza ni tik za vogalom, ampak se že dogaja.
Pred vsako večjo krizo se vedno pojavijo glasovi, ki poskušajo sprožiti alarm. Odstranijo jih, označijo za pretirane, imenujejo jih "strašilci" ali še kaj hujšega.
Toda tokrat ta opozorila niso ostala neopažena. Izkazala so se za resnična.
Ljudje, ki so bili najbližje tej tehnologiji, so natančno vedeli, kam bo vodila – in zdaj to doživljamo v realnem času.
Jutri zvečer se bomo osredotočili na rešitve. Danes pa se moramo lotiti nečesa veliko bolj nujnega: kako bo svet izgledal, če nihče ne bo posredoval in spremenil smeri.
Tveganja, povezana z umetno inteligenco, niso bila nikoli skrita – razvijalci teh sistemov so jih prepoznali že zgodaj.
Inženirji in zaposleni v velikih tehnoloških podjetjih so večkrat izrazili jasno zaskrbljenost glede tega, kako bi se ta orodja lahko uporabljala za nadzor in vojskovanje. Spoznali so nekaj temeljnega: ko zmogljivost obstaja, postane nadzor drugotnega pomena. Infrastruktura spodbuja širitev.
Tudi če vodstvo obljublja omejitve, spodbude delujejo v nasprotno smer.
Na tisoče zaposlenih v Googlu je leta 2018 podpisalo pismo proti vojaškim projektom umetne inteligence, v katerem je opozorilo: »Menimo, da Google ne bi smel biti vpleten v vojno.«
To opozorilo kaže na globljo resničnost. Umetna inteligenca ne bo ostala omejena na svoj prvotni namen. Ko bo enkrat integrirana v obrambne strukture, bo postala prilagodljiva, skalabilna in vse težje jo bo obvladovati. Leta pozneje obtožbe žvižgačev kažejo, da scenariji, ki so se jih zaposleni bali, niso več hipotetični.
Težko je spregledati vzorec – notranji odpor, prepričevanje javnosti, nato tiha eskalacija. Tisti, ki so bili najbližje tehnologiji, so videli, kam bo to pripeljalo.
In niti oni tega niso mogli ustaviti.
Kar se trenutno uporablja, kaže, kako daleč je razvoj že napredoval.
Ustvarjajo se sistemi, ki združujejo celoten proces sodobnega vojskovanja v en sam uporabniški vmesnik – vnašajo se podatki, identificirajo se cilji, generirajo se možnosti in izvajajo se dejanja v neprekinjenem ciklu.
V demonstraciji Palantir-jevega sistema za zaznavanje ciljev, ki ga poganja umetna inteligenca, v živo je eden od predavateljev pojasnil, kako hitro je mogoče cilj prepoznati in izstreliti: »Levi klik, desni klik, levi klik – in kot po čarovniji postane zaznavanje.«
Ta preprostost ni le udobje – je preobrazbena. Človeško trenje je odpravljeno, odločitve, ki so nekoč zahte usklajevanje, premislek in čas, pa so zdaj zreducirane na skoraj takojšnje delovne procese. Postopek se premakne od odkrivanja do dejanja z minimalnimi prekinitvami, kar je opisano kot »zaprtje verige uničenja«.
Z naraščanjem učinkovitosti se zmanjšuje človeška vpletenost . Operater postane manj vključen v rezultat, medtem ko sistem postane hitrejši, bolj prilagodljiv in bolj avtonomen.
In ko bo ta zmogljivost enkrat obstajala, ne bo več omejena na bojišče ali en sam kontekst.
Postane manekenka.
Preplet umetne inteligence in biotehnologije prinaša novo vrsto tveganja – takšno, ki ga je težje napovedati in veliko težje nadzorovati.
Skrb ni le zaradi zlorabe. Gre za hitrost. Gre za avtonomijo.
Obrambni strokovnjak je opisal scenarij bližnje prihodnosti, v katerem bi sistemi umetne inteligence lahko izvajali celotne laboratorijske poskuse brez človeškega nadzora, in opozoril: »Lahko bi bili v laboratoriju ... in sistem bi moral vse narediti avtonomno.«
Ta zmožnost odpravlja eno zadnjih preostalih omejitev kompleksnih raziskav: čas in človeški nadzor. Avtonomni sistemi bi lahko pospešili poskuse preko meja, za katere so bili zasnovani obstoječi varnostni ukrepi, in če ti sistemi delajo z biološkim materialom, bodo posledice veliko resnejše.
Temeljni problem je skladnost s predpisi . Sistemi umetne inteligence ne »razumejo« rezultatov – optimizirajo z mislijo na cilje. Če so ti cilji pomanjkljivi, nepopolni ali ozko opredeljeni, lahko sistem ustvari škodljive rezultate, medtem ko še vedno deluje natančno tako, kot je predvideno.
Ko se odločanje prenese na te sisteme, postane človeška presoja drugotnega pomena in posredovanje oteženo.
Na tej točki izziv ni več le v razvoju tehnologije.
Cilj je zagotoviti, da se obnaša na način, ki je skladen s človeškimi vrednotami – nekaj, kar postaja vse težje doseči, ko sistemi postajajo močnejši in neodvisnejši.
Gospodarski vpliv se hitro in hkrati čuti v številnih panogah.
Podjetja ne le počasi uvajajo umetno inteligenco – temveč svoja podjetja popolnoma prestrukturirajo okoli nje. Ukinjajo se celotne poslovne enote, v nekaj mesecih se ukine več deset tisoč delovnih mest, čeprav prihodki rastejo in cene delnic naraščajo.
Vzorec je jasen: ogromno vlagati v umetno inteligenco, zmanjšati število zaposlenih in biti za to nagrajen .
V velikih podjetjih ne gre le za varčevanje s stroški – gre za spremembo načina poslovanja podjetij. Avtomatizacija znižuje stroške, trgi nagrajujejo učinkovitost in ko se ta cikel enkrat začne, se hitro širi.
V nedavnem intervjuju je vodilni delavec v industriji umetne inteligence opozoril, kako hitro bi lahko izginila pisarniška delovna mesta: »Večina teh nalog bo v naslednjih 12 do 18 mesecih popolnoma avtomatizirana z umetno inteligenco.«
Kar so mnogi desetletja jemali za samoumevno, je zdaj zreducirano na mesece. Uradniška delovna mesta – ki so dolgo veljala za stabilna – so nenadoma ogrožena, in ker se to širi po sektorjih, učinki segajo daleč preko zaposlovanja. Vplivajo na gospodarsko stabilnost, identiteto delovne sile in dolgoročno načrtovanje.
Morda obstajajo področja, ki so odporna, zlasti pri praktičnem, fizičnem delu, vendar so tudi ta pod pritiskom, da se prilagodijo.
Za celotno sliko je značilno pospeševanje – ne počasen razvoj, temveč hitro prestrukturiranje, ki poteka hkrati v vseh sistemih.
In ko tehnološke priložnosti, ekonomske spodbude in institucionalna dinamika kažejo v isto smer, se tempo sprememb ne le poveča.
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
Komentarji 0
Slike:
(1%)
