AI: a kitörni készülő háború nem olyan lesz, mint amilyenre számítunk...

A sci-fi narratívák többsége által valahogyan rákényszerített képsor egy olyan világ elé állít bennünket, ahol az emberiségnek előbb-utóbb meg kell küzdenieMesterséges intelligencia. A konfliktus kirobbanni fog, amint a mesterséges intelligencia tudomást szerez önmagáról, és úgy dönt, hogy kiirt minket, vagy megtalálja a módját, hogy irányítson bennünket.

Ha ez a perspektíva reális (és lenne mit megvitatni a témában), akkor a ránk váró háború időben meglehetősen távolinak tűnik, tekintve, hogy a jelenlegi generatív rendszerekben egyáltalán nincs tudatosság. Szóval egyelőre nyugodtan aludhatunk. Vagy nem?

„Sürgősen szükség van a katonai célú mesterséges intelligencia szabályozására”
Orosz-ukrán háború: jelent-e változást a mesterséges intelligencia?
Összeesküvés, álhírek és idegengyűlölet: veszélyes digitális keverék

A jelenlegi mesterséges intelligencia valódi veszélyei

Még mindig nagy a zűrzavar a témában Mesterséges intelligencia. Fájdalmas kimondani, hogy a jó művészetben a zavarodottság olyan újságírók által táplált, akik lelkesen írnak róla, de gyakran nem annyira felkészültek, hogy megértsék valódi természetét, lehetőségeit és kockázatait.

Az ilyen zavart az a természetes hajlamunk is elősegíti, hogy bármilyen külső entitásra vetítsük magunkat, legyen az egy másik személy, állat vagy – mint ebben az esetben – szoftverobjektum.

Ezért nehéz megértenünk, hogy a látszólag intelligens viselkedés egyáltalán nem feltételez hiteles tudatosságot.

Így az általánosító újságok túl sok „kattintócsali” címsorától ösztönözve aggódunk az időben még távoli problémák miatt, de nem látjuk vagy becsüljük alá azokat, amelyek már ma is közvetlenül érintenek bennünket.

Mint mindig ott technológia az embert segítő, de ártó módon is alkalmazható.

Társadalmi szinten például a mesterséges intelligencia felhasználható folyamatok és szolgáltatások optimalizálására, mint például a városi forgalom, vagy a bürokratikus és egészségügyi szolgáltatások.

Vagy segíthet a tanároknak személyre szabott órák vagy tesztek elkészítésében az egyes tanulók jellemzői és sajátosságai alapján.

Személyes szinten segíthet mindannyiunknak abban, hogy jobban megszervezzük a munkánkat és az időnket, kezelve a számunkra legunalmasabb vagy ismétlődő részeket.

Vagy segíthet jobban kifejezni kreativitásunkat, képeket, zenéket vagy videókat generálva az utasításaink szerint.

A jól használt mesterséges intelligenciának ki kell egészítenie, nem pedig helyettesítenie tevékenységünket.

De mivel a jelenlegi generatív rendszerek, amelyek szövegek, képek és videók előállítására képesek, hatalmas, főleg az internetről származó adatbázisokon alapulnak, gyakran tükrözik "Elfogultság" és mindenekelőtt statisztikai átlagokon dolgoznak.

Ahogy egyre több tartalmat generál Mesterséges intelligencia önmagukban annak a kockázata, hogy az átlagok átlagainak átlagai jönnek létre, amelyek egyre kézzelfoghatóbb lefelé nivellődnek.

Ezek azonban olyan problémák, amelyekkel szembesülni és megoldani lehet: a legnagyobb kockázat, amiről még nem beszéltem, az emberi tényező.

Fotógaléria, a rajzfilmek, amelyek kiűzik a világháló félelmeit
Innováció és újságírás: gyakran nehéz együttélés
A mesterséges intelligencia (is) forradalom a képszerkesztésben

A mesterséges intelligencia ereje és az elkövetkező háborús konfrontáció

Eddig olyan problémákkal foglalkoztam, amelyek már ismertek, és végül is túl sok szorongás nélkül kezelhetők. A jó (vagy rossz) most jön.

Képzeljük el aMesterséges intelligencia jól képzett, képes reálisan reprodukálni bárki hangját. Ilyen rendszerek már léteznek.

Kombináljuk egy másik mesterséges intelligenciával, amely képes hiteles videók készítésére valódi emberekkel. Ezek a rendszerek is léteznek, és bizonyos esetekben már használták őket.

Ezt meg tudjuk teremteni."mély hamisítvány” (teljesen hamis, de teljesen hiteles videók) rendkívüli egyszerűséggel, a politikai ellenfelek, az ellenséges országok vagy egyszerűbben az általunk nem kedvelt emberek rovására.

Így több ezer (nem, több tízezer) csevegőbotot hozunk létre, amelyek valódi embereknek adják ki magukat. legnépszerűbb közösségi hálózatok és elkezdik megosztani a rágalmazásra, az ellenfelek karrierjének tönkretételére vagy az ellenséges országban a lehető legnagyobb káosz megteremtésére készült videókat, esetleg választási időszakban.

Így születik meg az igazság háborúja, és most mindannyian azt kockáztatjuk, hogy elveszítjük.

És felejtsd el a legutóbbi amerikai választásokat, amelyeket egyes elemzők szerint a kívülről (értsd: Orosz Föderációból) "beoltott" propaganda torzított el.

A jelenlegi és a középjövőben elérhető rendszerekben rejlő lehetőségekhez képest a 2020. novemberi hírek eltorzítására tett kísérlet gyerekjáték volt.

Így gurítják az első világháború dobait az AI
Pizzinitől a közösségi oldalakig: így burjánzik a maffia a neten
A morati csata a világ legnagyobb digitális tárgya lesz

Nem szokványos fegyverként használt hallucinációk

Le Mesterséges intelligencia A generatív emberek működési elveikben van egy belső hiba: hallucinációktól szenvednek. A legújabb verziók, mint például a ChatGPT-4, megpróbálják korlátozni és korrigálni ezt a tendenciát, több-kevesebb sikerrel.

Ezt a „hallucinációs potenciált” a nem jó szándékú felhasználók is kihasználhatnák a maguk javára, hogy látszólag igaz híreket terjesszenek, amelyek bizonyos politikai csoportok többé-kevésbé kifejezett meggyőződésén alapulnak, megerősítve azok „Elfogultság".

Mindez rendkívüli „tűzerővel” a néhány évvel ezelőttihez képest.

Egy jól szervezett csoport (talán egy betartott kormány segítette az asztal alá) kihasználná a már ismert sebezhetőségeket a nagy többségben. számítógépek az interneten az optimalizált támadásokhoz, és átveheti az irányítást több millió eszköz felett.

Ezt úgy tenné meg, hogy felváltva szerverként használja őket hamisítványok létrehozásához közösségi fiók nem könnyen megkülönböztethető az autentikusoktól.

A hamis beszámolók ezután olyan téziseket és híreket terjesztenek, amelyek célja a fent említett csoportok hitének megerősítése volt.

És az ilyen támadások elleni küzdelem egyetlen módja… aMesterséges intelligencia.

Mesterséges intelligencia és konfliktusok egy kiadatlan esszégyűjteményben
Színészek a Strike-on: A hitelesség és a kreativitás védelme a mesterséges intelligencia ellen
Videó, a svájci-burgundi összecsapást digitalizálják és megőrzik

A válság és egy ilyen evolúció lehetőségei

Ki nyeri meg a jövő háborúját?

Le Mesterséges intelligencia társadalmi szabotőrök, vagy a védelmünkre bízottak szolgálatában?
Jelenleg senki sem tudja megmondani.

Egy dologban biztosak lehetünk: ezekkel a kihívásokkal csak egy jól felkészült ország (vagy még jobb: országszövetség), amelynek lakossága kritikus gondolkodási képességekkel és digitális eszközök ismeretével rendelkezik.

Szükséges, hogy a mesterséges intelligenciát ne csodaként vagy fenyegetésként élje meg, hanem tanulja meg megérteni annak érdemeit, lehetőségeit és problémáit, egy előrelátó menedzsment osztály mellett, valódi odafigyeléssel az etikus innovációra, technológia.

A lehető leghamarabb innen kell kezdenünk...

Ha a mesterséges intelligencia gyermekeink legjobb barátja
The Newspeak of Facebook (vagy „mesterséges demencia”)
Fotógaléria, Louis Braun 1000 négyzetméteres munkájának asztalai