Mi lenne, ha egy mezőgazdasági robotnak elég lenne annyit mondanunk, hogy vigyen vizet az állatoknak, és az önállóan megtervezné a szükséges lépéseket? Vagy ha egy mesterséges intelligencia néhány perc alatt feldolgozná azt a tudományos szakirodalmat, amelynek áttekintése korábban napokig tartott? A nagy nyelvi modellek ma már jóval többre képesek egyszerű beszélgetésnél. De vajon valóban értik, amit mondunk nekik, és mennyire bízhatunk a válaszaikban?
Az Óbudai Egyetem Határtalan Innováció című podcastjének „Nem csak chat” epizódjában Kocsis M. Brigitta három vendéggel beszélgetett a mesterséges intelligencia legizgalmasabb alkalmazási lehetőségeiről.
Hogyan tanul egy mesterséges intelligencia?
A beszélgetésben a gépi tanulás folyamatát egy különösen szemléletes hasonlattal magyarázzák el. Képzeljük el, hogy valakinek egy szobrot kell elkészítenie egy olyan személyről, akit soha nem látott.
Először csak találgat, majd a kapott visszajelzések alapján folyamatosan módosítja a szobrot. Ha az arc túl széles, keskenyebbre formálja. Ha az orr nem megfelelő, azon változtat. A sok-sok korrekció eredményeként a szobor egyre jobban hasonlít az eredeti személyre. A gépi tanulás során is hasonló elv érvényesül: a rendszer a tanítás során kapott visszajelzések alapján módosítja a belső paramétereit, hogy egyre megfelelőbb eredményeket állítson elő.
A nagy nyelvi modellek esetében ez rendkívül összetett matematikai folyamat, amelyhez jelentős számítási kapacitásra és nagy mennyiségű tanítóadatra van szükség. A technológia fejlődésének egyik legfontosabb eredménye, hogy az így létrejövő rendszerek olyan feladatokat is képesek elvégezni, amelyekre korábban különálló, speciális szoftvereket kellett fejleszteni.
Egy robot, amelynek már nem kell joystick
A podcast egyik legérdekesebb témája az Óbudai Egyetemen zajló mezőgazdasági robotikai kutatás. A kutatók egy ipari együttműködés keretében olyan négykerekű, nagy teherbírású mobil robotplatformot fejlesztettek, amely nehéz terepviszonyok között is képes jelentős terheket szállítani. A robot akár szalmabálák mozgatására is alkalmas, és homokos talajon is képes közlekedni.
A rendszer hagyományos irányítása azonban meglehetősen összetett. A kezelőnek joystickot, kapcsolókat és különböző vezérlőelemeket kell használnia, ami speciális felkészültséget igényel. Innen született az ötlet: mi lenne, ha a robotot egyszerű emberi mondatokkal lehetne irányítani?
A cél az, hogy a felhasználónak ne kelljen minden egyes mozdulatot részletesen meghatároznia.
Elég lenne például annyit mondania:
„Menj az istállóba, vedd fel a vödröt, vidd a kúthoz, és adj inni a lovaknak!”
Egy megfelelően fejlesztett intelligens rendszernek ebből az utasításból fel kellene ismernie a szükséges részfeladatokat, és azok alapján meg kellene terveznie a végrehajtást. A robotnak például ki kellene következtetnie, hogy a vödröt meg kell töltenie vízzel, még akkor is, ha ezt az utasítás nem tartalmazza kifejezetten.
A kutatás egyik legfontosabb kérdése, hogyan lehet a természetes nyelvi utasításokat olyan műveletsorokká alakítani, amelyeket a robot végre is tud hajtani. A fejlesztés még folyamatban van, de jól mutatja, milyen lehetőségeket teremthet a robotika és a nagy nyelvi modellek összekapcsolása.
Öntudatra ébredhet a mesterséges intelligencia?
A podcast egyik legizgalmasabb és leginkább gondolatébresztő része a mesterséges intelligencia viselkedésének és biztonságának kérdéseit vizsgálja. Vajon egy nyelvi modellnek lehetnek saját céljai? Képes lehet olyan viselkedésre, amely ellentétes az emberi elvárásokkal? És jelentheti-e mindez azt, hogy a rendszer valamiféle öntudattal rendelkezik?
A beszélgetésben szóba kerülnek olyan ellenőrzött tesztkörnyezetekben végzett vizsgálatok, amelyekben a modellek problémás, akár manipulatív viselkedést mutattak bizonyos célok teljesítése érdekében. Az egyik említett példa egy olyan szimulált helyzet, amelyben egy mesterségesintelligencia-modellnek a saját leállításával kapcsolatos forgatókönyvben kellett döntéseket hoznia.
A kutatók azonban hangsúlyozzák, hogy az ilyen viselkedés nem feltétlenül jelent emberi értelemben vett félelmet vagy tudatosságot. A modellek működését ugyanis alapvetően a tanítási folyamat, a megtanult mintázatok és a feladatokhoz kapcsolódó optimalizációs mechanizmusok alakítják.
Az MI-biztonsági kutatások egyik fontos célja ezért annak feltárása, hogy a rendszerek milyen körülmények között produkálhatnak nem kívánt viselkedést, és hogyan lehet ezeket a kockázatokat megelőzni.
A nagy nyelvi modellek egyik legismertebb problémája az úgynevezett hallucináció. Ez akkor fordul elő, amikor a rendszer meggyőzően hangzó, nyelvileg helyes, de tényszerűen hibás vagy teljesen kitalált információt állít elő. A podcastban a kutatók rámutatnak, hogy a nyelvi modellek működésének alapja nem az igazság közvetlen ellenőrzése, hanem a tanult mintázatok alapján történő szöveggenerálás.
Ezért egy modell akkor is adhat magabiztos választ, amikor nem rendelkezik megbízható információval.
A probléma különösen fontos a tudományos kutatásban.
Egy mesterséges intelligencia például képes lehet tudományos szövegek összefoglalására, szakirodalmi kérdések megválaszolására vagy publikációk elemzésére, de az általa közölt állításokat és hivatkozásokat ellenőrizni kell. A beszélgetésben szó esik arról is, hogyan lehet a modellek megbízhatóságát javítani.
Az egyik lehetőség, hogy a rendszer működését meghatározott dokumentumokra, például tudományos publikációkra vagy könyvekre alapozzuk. Egy másik megközelítés több különböző nyelvi modell párhuzamos alkalmazása, amelyek ugyanazt a feladatot egymástól függetlenül elemzik. Az eredmények összehasonlítása segíthet az ellentmondások és bizonytalan állítások felismerésében, bár önmagában nem garantálja a helyességet.
A legfontosabb következtetés, hogy a mesterséges intelligencia hasznos kutatási asszisztens lehet, de a tudományos ellenőrzés és a végső döntés továbbra is az ember feladata.
A beszélgetés során egy különösen találó hasonlat is elhangzik: a nagy nyelvi modell olyan lehet, mint egy dzsinn, amely szinte bármikor rendelkezésünkre áll, és számos különböző feladatban képes segíteni.
Segíthet megfogalmazni egy nehéz mondatot, javaslatot adhat egy programkód javítására, rendszerezhet információkat, vagy új szempontokat kínálhat egy kutatási problémához. Ez a sokoldalúság azonban felelősséggel is jár. A podcastban külön hangsúlyt kap az adatbiztonság kérdése.
Nem mindegy, milyen információkat osztunk meg egy nyilvánosan elérhető mesterségesintelligencia-szolgáltatással. Bizalmas intézményi dokumentumok, még nem publikált kutatási eredmények vagy hallgatói dolgozatok feltöltése például adatvédelmi és kutatásetikai kockázatokat jelenthet.
Az ilyen feladatokhoz megfelelően szabályozott, biztonságos technológiai környezetre van szükség.
A mesterséges intelligencia felelős használata tehát nemcsak azt jelenti, hogy képesek vagyunk jó kérdéseket feltenni, hanem azt is, hogy tisztában vagyunk az alkalmazott rendszer korlátaival és az adatkezelés következményeivel.
A Határtalan Innováció podcast sorozatot megtalálod az Óbudai Egyetem Youtube csatornáján is!
Validation of the Hungarian version of theGeneral Oral Health Assessment Index (GOHAI) in clinical and generalpopulations
Robot-assisted surgery and artificialintelligence-based tumour diagnostics: social preferences with a representativecross-sectional survey
Determinants of the acceptability of healthproblems in different ages: exploring a new application of the EQ VAS
Long-Term Efficacy of Tumor Necrosis FactorInhibitors for the Treatment of Methotrexate-Naïve Rheumatoid Arthritis:Systematic Literature Review and Meta-Analysis
A comparison of European, Polish, Slovenianand British EQ-5D-3L value sets using a Hungarian sample of 18 chronic diseases
A Határtalan Innováció podcast sorozatot megtalálod az Óbudai Egyetem Youtube csatornáján is!
„A MEC_N 149937 számú projekt a Kulturális és Innovációs Minisztérium Nemzeti Kutatási Fejlesztési és Innovációs Alapból nyújtott támogatásával, a MEC_24 pályázati program finanszírozásában valósult meg.”
