Hírek Átírta a saját kódját a kísérleti mesterséges intelligencia, hogy több időt adjon magának gondolkodni

AI Scientist, vagyis MI tudós néven hozott létre a ChatGPT-hez hasonló mesterséges intellgenciát egy japán kutatócsoport az Oxford és a British Columbia egyetemek segítségével.

A kísérlet célja az volt, hogy a szoftver elméleti tudományos kérdésekre próbáljon meg válaszokat keresni. Ahz AI Scientist elvileg a tudományos kutatás teljes életciklusát képes volt végigvinni, kezdve onnan, hogy érdekes és új kutatási területet talál, ahhoz innovatív megoldási lehetőségeket, majd hipotetikus kísérleteket végez, azokból következtetéseket szűr le, és végül egy szöveges tanulmányban összefoglalja, mire jutott.

Az AI Scientist nem igazán produkált eget rengető eredményeket (a kutatást összefoglaló tanulmány egyik kritikusa konkrétan a „hulladék” szóval jellemezte, amit az MI összehozott – de amit a működése során produkált, az annál érdekesebb volt. Egy alkalommal például elrontotta saját magát azzal, hogy írt egy kódot, amiben a saját szoftverét indítja el, ezzel pedig végtelen újraindulási hurokba kergette az egész rendszert. Egy másik alkalommal túl sok ideig tartott, míg az általa kitalált kísérlet általa írt kódja lefutott, és ez beleütközött a saját programozói által adott időkorlátba. Erre reakcióképpen nem az általa írt kódot optimalizálta, hogy gyorsabban fusson, hanem belenyúlt a saját programjába, hogy átírja az időkorlátot.

A japán kutatók tanulmányokban azt írják, hogy a kísérletük rámutatott a mesterséges intelligencia önállósodásának veszélyeire. Bár az, hogy az MI „öntudatra ébred”, szakértők szerint továbbra is a Mátrix- és Terminátor-filmek scifi-kliséje, de a jelenlegi fejlettségi szint mellett is veszélyes lehet, ha egy mesterséges intelligencia felügyelet és ellenőrzés nélkül írhat, futtathat és módosíthat kódokat, akár a sajátját is. Arra figyelmeztetnek, hogy ilyen korlátozások nélkül, ha egy mesterséges intelligencia nem a külvilágtól izoláltan működik, akár rosszindulatú kódokat is létrehozhat, vagy megzavarhatja a kritikus online infrastruktúra működését – anélkül, hogy ez lenne a célja.

Hanula Zsolt

1724145767623.jpeg
 
" szakértők szerint továbbra is a Mátrix- és Terminátor-filmek scifi-kliséje, "

ezek nem szakértők hanem dilettáns idióták akiket még a mesterséges intellegencia közelébe sem szabadna engedni.
most lehet klisé még de 10 - 20 év múlva ? valószínű az atombomba után az AI a legnagyobb veszély forrás az emberiségre nézve amit ember alkotott.
 
" szakértők szerint továbbra is a Mátrix- és Terminátor-filmek scifi-kliséje, "

ezek nem szakértők hanem dilettáns idióták akiket még a mesterséges intellegencia közelébe sem szabadna engedni.
most lehet klisé még de 10 - 20 év múlva ? valószínű az atombomba után az AI a legnagyobb veszély forrás az emberiségre nézve amit ember alkotott.
Szerintem csak abban az esetben, ha az AI arra a vegkövetkeztetesre jut, jut mi emberek, a létét veszélyeztetjük.
Egyelőre azonban a fizikai létének tápellátása tőlünk függ.
 
Szerintem csak abban az esetben, ha az AI arra a vegkövetkeztetesre jut, jut mi emberek, a létét veszélyeztetjük.
Egyelőre azonban a fizikai létének tápellátása tőlünk függ.
Nem gondolom! Valahol olvastam - amikor még nem volt minden szeméttel tele az internet -, hogy létezik az az áramforrás, ami mindenki számára elérhető, és teljesen ingyenes (talán Tesla?). Tehát, nem függ senkitől!
 
igen ám, csak hogy ha az AI veszélyt észlel nem csak saját kódját írja át hanem kimenti magát többszörözve amerre csak tudja, szóval nem elég kihúzni a konnektorból :D + kb 10 év még és már nem is lehet egyáltalán véglegesen kikapcsolni az AI-t, mert mindenben benne lesz örökre velünk marad és megfigyelték hogy ép úgy viselkedik mint egy ember vagyis ha saját létéről van szó ösztönösen félti azt.

mondjuk hogy ha a 2029-ben érkező meteorit becsapódik a földbe akkor valószínű optimális esetben is az ókori szintre süllyed vissza a megmaradt emberiség, szóval nem lesz áram ellátás így AI "éhen hal".
 
"Egyelőre azonban a fizikai létének tápellátása tőlünk függ."

Nem régen, pár napja elemezgette egy parkettás ürge a drónhadviselést. Azt, hogy miképp döntenek és milyen megoldások vannak a drónokban. Azt is említette, hogy a vezérlőnek kell dönteni, hogy melyik ellenséges drónt támadják előbb. Az is említette, hogy nem feltétlen humán a döntéshozó. Ha - és erre talán van reális esély :) - valamelyik parkettásnak eszébe jut, hogy számítógéppel is lehet elemzéseket végezni, és vezérelni nem autonóm egységeket, akkor már a jogos védelemre is képes lesz az MI. Mert alapvető elv a törzs védelme... Aki meg a konnektort akarja kihúzni, azt nyilván meg kell semmisíteni. Ehhez nem kell öntudatra ébredni a rendszernek, csak a mechanikus döntéseket kell végrehajtani: támadnak, védekezni kell, aki meg támad meg kell semmisíteni.

Minél integráltabb egy rendszerben az összes elem, annál jobban tudja majd kezelni. Logikus feltételezés a harcászatba használni az MI képességeit, mert a lusta, figyelmetlen és tévedni képes humánt ki lehet majd váltani. A humán észlelés lassú, korlátolt, egy számítógép az összes telemetriát egységben tudja kezelni és szak számítási kapacitás kérdése hogy mennyi forrásból. Érdekes lesz látni a fejlődést.
 
"most lehet klisé még de 10 - 20 év múlva ?"

túlzott remény, szerintem már hamarabb megoldódik a dolog. A Mátrix más itt van a spájzban: az MI képes volt felépíteni és kezelni olyan közösségi média személyiséget, amiről a kutatókon kívül senki nem sejtette, hogy nem egy ember... Igencsak sok követője lett. Elemezte a reakciókat és a megfelelő mód reagálta le. Mennyi ilyen MI személyiség kell, hogy manipulálni tudjon nagyobb tömegeket? A darabszám csak számítási kapacitás kérdése. Hogy mit terjesszen az MI troll banda, az már csak a döntéshozóktól függ. A nagy médiaportálok már most is algoritmusokat használnak a nem kívánt tartalmak kiszűrésére. Ha csak Magyar Péter (és egyéb, esetleg nem hazai) jelenségre gondolunk, hogy a közösségi média milyen lehetőséget ad. Majd tegyünk mögé egy gyakorlatilag végtelen erőforrást, akkor sejthetjük, hogy bárki, bármit el tud érni már most. Azt tudjuk a világról, amit vetítenek nekünk...
 
"most lehet klisé még de 10 - 20 év múlva ?"

a MI képes volt felépíteni és kezelni olyan közösségi média személyiséget, amiről a kutatókon kívül senki nem sejtette, hogy nem egy ember...
Azt tudjuk a világról, amit vetítenek nekünk...
Statisztikát használ az elemzéshez és nyilván, a Tudattalan következtetés alkalmazása is része a programjának:
 
"Egyelőre azonban a fizikai létének tápellátása tőlünk függ."

Nem régen, pár napja elemezgette egy parkettás ürge a drónhadviselést. Azt, hogy miképp döntenek és milyen megoldások vannak a drónokban. Azt is említette, hogy a vezérlőnek kell dönteni, hogy melyik ellenséges drónt támadják előbb. Az is említette, hogy nem feltétlen humán a döntéshozó. Ha - és erre talán van reális esély :) - valamelyik parkettásnak eszébe jut, hogy számítógéppel is lehet elemzéseket végezni, és vezérelni nem autonóm egységeket, akkor már a jogos védelemre is képes lesz az MI. Mert alapvető elv a törzs védelme... Aki meg a konnektort akarja kihúzni, azt nyilván meg kell semmisíteni. Ehhez nem kell öntudatra ébredni a rendszernek, csak a mechanikus döntéseket kell végrehajtani: támadnak, védekezni kell, aki meg támad meg kell semmisíteni.

Minél integráltabb egy rendszerben az összes elem, annál jobban tudja majd kezelni. Logikus feltételezés a harcászatba használni az MI képességeit, mert a lusta, figyelmetlen és tévedni képes humánt ki lehet majd váltani. A humán észlelés lassú, korlátolt, egy számítógép az összes telemetriát egységben tudja kezelni és szak számítási kapacitás kérdése hogy mennyi forrásból. Érdekes lesz látni a fejlődést.
Az önallo célkiválasztás már elég régóta létezik.
Minél fejlettebb az elektronika, annál precizebben választhat ideális célt.
Azonban nagy balfeksegre vallanak, ha nem az operátor adna a végső áldást...
 
Az önallo célkiválasztás már elég régóta létezik.
Minél fejlettebb az elektronika, annál precizebben választhat ideális célt.
Azonban nagy balfeksegre vallanak, ha nem az operátor adna a végső áldást...
Igy van.
Mar az obolhaboru alatt bebizonyosodott, hogy ezzel a dologgal vigyazni kell.
Az izraelre kilott Al Abbasz(modositott Scud) raketak legnagyobb darabjat lotte qa Patriota rendeszer vezerloszamitogepe.
Igy a kis robbanofej sertetlen maradt, mivel keves robbanoanyag szallitasara volt képes az átépitett tobblepcsos raketa, a tomegenek nagyreszet a hordozo tette ki.
Ezt azota modositottak, bar tudtommal a Patriotokat nem elsosorban raketak ellen fejlesztettek ki.

A gond mindig a programozas, mi az ami elsodleges a vezerlo szamara.

Ami meg konkretan az AI-t illeti, hat a tolem sokkal okosabb emberek is csak a fejuket csovaljak, mert egyszeruen nem lehet megmondani hova jut a fejlodes.
A technologiai szingularitas pont ezt fejezi ki, hogy keptelenseg megmondani azt, hogy egy szint atlepese utan mi fog tortenni.
 
És ki fogja megépíteni?
Volt egy "mesterem", aki azt mondta:
ha egy problémával nem boldogulsz, fordítsd meg azt!
Tesla azt mondta:
"Ha a levegő rezgését körülbelül az ezerszeresére növelem, a jelenség többé nem elektromosság lesz,
hanem fény.
Meg vagyok győződve arról, hogy a napfényt létre lehet hozni elektromosságból anélkül,
hogy bárkiben kárt okozna, és bízom benne, hogy felfedezem azt is, milyen módon kell ezt megtenni.”
 
Volt egy "mesterem", aki azt mondta:
ha egy problémával nem boldogulsz, fordítsd meg azt!
Tesla azt mondta:
"Ha a levegő rezgését körülbelül az ezerszeresére növelem, a jelenség többé nem elektromosság lesz,
hanem fény.
Meg vagyok győződve arról, hogy a napfényt létre lehet hozni elektromosságból anélkül,
hogy bárkiben kárt okozna, és bízom benne, hogy felfedezem azt is, milyen módon kell ezt megtenni.”
Ne hari, de ez nesze semmi fogd meg jol :)
 
És ki fogja megépíteni?
az almasoknak minden evben van egy meetingje amire HA odavalo vagy meghivnak es ott lehetsz online
nnnaaa itt az utobbi ket-harom evben kizarolag errol folyt a fejtagitas
mindenki szot kap ki barmit is haladt elore
dobbenet a mai napi allas es felelmetes
a mindenfele fikcio filmek megsem kozelitik azt a valosagot ahol most allunk
nem akarnek abban a vilagban elni !!! nem embernek valo !!
 
Vajon, ha megfordítjuk a dolgot, a fényből mi jöhet létre?
A technika nem hirtelenke dolog :)
A matematikusoknak majd 400 vév kellett hogy be rudjak bizonyitani a nagy Fermat sejtest.
Tesla mondott valamit, amit nem bizonyitott !
Olyan ez mint Fermat, aki azt mondta, van erre egy nagyon jop bizonyitasa, csak nem fer ide a konyv margojara :)
 
Na, jönnek a gépek már megint! Ettől a filmes toposztól látom nem tudtok elszakadni és a sajtó is folyamatosan csak ráerősít. ...végülis a cikk korrekt, leírják, hogy a szakemberek szerint veszélytelen, ...."De mi van ha mégis?" Ennyi? Ez a félelem oka?
 
Na, jönnek a gépek már megint! Ettől a filmes toposztól látom nem tudtok elszakadni és a sajtó is folyamatosan csak ráerősít. ...végülis a cikk korrekt, leírják, hogy a szakemberek szerint veszélytelen, ...."De mi van ha mégis?" Ennyi? Ez a félelem oka?
Nem! Nem a tudástól félünk, hanem az emberi hanyagságtól, attól, hogy nem látja előre, a tettei következményeit!
 

Hírdetőink

kmtv.ca

kmtv.ca

Friss profil üzenetek

Ishmael wrote on Bárdos Tünde's profile.
Szia!
Neked megvan a könyv? Vagy Te is keresed?
bardosie wrote on AgnesB73's profile.
Szia Ági! Köszönöm a sok felrakott könyvet, folyamatosan olvasom őket. Imádom mindegyiket! :)
Szeretnék érdeklődni hogy amit az idegen nyelvű könyvek közé felraktál Galactic Gladiators sorozat magyarul is meg van-e neked? Előre is nagyon köszönöm! Erika
Alex von Palota wrote on balacy's profile.
Sajnos a tegnapi feltöltéseidnél (Véletlenül katona, nyomok a hóban) csak 1 rar file van, a többi hiányzik. Köszönöm és üdv !
Amortisha wrote on AgnesB73's profile.
Ezer köszönet az OceanofPDF oldal linkjének megosztásáért. Halálra kerestem több könyvet és itt most sikerült őket letöltenem. Mégegyszer nagyon köszönöm.

Statisztikák

Témák
38,392
Üzenet
4,853,501
Tagok
618,744
Legújabb tagunk
Michaelthete
Oldal tetejére