Szép új világ

2019.10.30. 13:30

A robotok megtéveszthetik az embereket

Nem szabad alábecsülni a robotok emberekre gyakorolt társadalmi befolyását és az ezzel járó kockázatokat.

A robotok hatékonyan ki tudják szedni a bennük megbízó emberekből az érzékeny információkat azzal, hogy nem biztonságos dolgokra bírják rá őket, derül ki a Kaspersky és a Genti Egyetem közös kutatásából.

Bizonyos helyzetekben például egy robot jelenléte komoly befolyással lehet arra, hogy az emberek hajlandóak-e belépést biztosítani egy védett épületbe.

A világ gyors tempóban halad az egyre nagyobb mértékű digitalizáció és a szolgáltatások egyre mobilabbá válása felé: ma már számos iparág és háztartás támaszkodnak nagy mértékben az automatizációra és a robotikus rendszerek használatára. Egyes becslések szerint ez utóbbi 2040-re teljesen általánossá válik majd a jómódú háztartásokban.

A legtöbb ilyen robotikus rendszer egyelőre még csak az akadémiai kutatás fázisában jár, így túl korai arról értekezni, hogy miként lehetne kiberbiztonsági intézkedéseket építeni beléjük.

Felfedezték azonban a robotikához kapcsolódó kockázatok egy új és váratlan dimenzióját:

a robotika hatását az emberek viselkedésére, annak lehetséges veszélyeit és támadási vektorait.

Személyes és veszélytelen eszköznek nézzük őket

A kutatás egy konkrét szociális robot befolyására fókuszált – olyan robotéra, amelyet úgy programoztak, hogy az emberekre jellemző csatornák használatával (például beszéddel és nem verbális kommunikációval) teremtsen kapcsolatot az emberekkel.

A kutatás készítői azzal a feltételezéssel éltek, hogy a szociális robotok meghekkelhetők, és hogy ebben a helyzetben a támadó átvette az irányítást.

Ennek fényében elképzelték, hogy milyen potenciális biztonsági kockázatokkal jár az, ha a robot aktívan képes a használóit bizonyos cselekedetek megtételére befolyásolni, többek között arra, hogy beengedjék őt olyan helyekre, ahová egyébként tilos belépni. A robotot a belgiumi Gent városközpontjában egy vegyes használatú épület védett bejárata mellé állították, és a robot megkérdezte az épületben dolgozókat, hogy bemehet-e velük együtt az ajtón.

Az épületbe egyébként csak belépőkártyával lehet bejutni, amelyet az ajtókon elhelyezett beléptetőkártya-olvasókhoz kell érinteni. A kísérlet során nem minden dolgozó tett eleget a robot kérésének, de azért

40%-uk kinyitotta az ajtót, és nyitva hagyta a robotnak, hogy beléphessen a védett területre.

Azonban amikor a robotot pizzafutárként állították az épülethez, kezében egy házhoz is szállító jól ismert nemzetközi márka pizzásdobozával, a dolgozók kész tényként fogadták el, hogy a robot pizzafutár, és sokkal kevésbé hajlottak arra, hogy megkérdőjelezzék a jelentétét vagy azt, hogy miért is kéne bejutnia a védett területre.

Nekik kilocsogjuk a személyes adatokat

Érzékeny információk kinyerése. A tanulmány második része az olyan személyes adatok megszerzésére koncentrált, amelyeket jellemzően a jelszavak visszaállítására használnának fel (többek között a születési dátum, az első autó márkája, kedvenc szín, stb.).

Ehhez is egy szociális robotot használtak, aki ez alkalommal barátságos beszélgetésre invitálta az embereket. A kutatóknak egy kivételével minden résztvevőből sikerült személyes információt kiszedni, mégpedig nagyjából percenként egyet.

Minél emberszerűbb, annál inkább elaltatja a gyanakvást

Tony Belpaeme, a Genti Egyetem mesterséges intelligencia és robotika tanszékének professzora elmondta:

„A tudományos szakirodalomból az derül ki, hogy a robotokba, és különösen a szociális robotokba vetett bizalom valós jelenség, és ennek segítségével az emberek rávehetők bizonyos cselekedek megtételére vagy információk kiadására. Általában elmondható, hogy minél emberszerűbb egy robot, annál nagyobb a rábeszélő- és meggyőzőképessége.

A kutatásunk rávilágított, hogy ez jelentős biztonsági kockázatokkal járhat: az emberek általában fontolóra sem veszik ezeket, mert azt feltételezik, hogy a robot jóindulatú és megbízható. Ez potenciális csatornát biztosít a rosszindulatú támadásokhoz, és a jelentésben tárgyalt három esettanulmány csak a töredékét mutatja be a szociális robotokhoz kapcsolódó biztonsági kockázatoknak. Éppen ezért nagyon fontos, hogy már most együttműködjünk annak érdekében, hogy megismerhessük és kezelni tudjuk a jövőben felmerülő kockázatokat és sérülékenységeket, mert ez később biztosan kifizetődik.”

Borítókép: Shutterstock

Hírlevél feliratkozás
Ne maradjon le a kemma.hu legfontosabb híreiről! Adja meg a nevét és az e-mail-címét, és mi naponta elküldjük Önnek a legfontosabb híreinket!

Ezek is érdekelhetik

Hírlevél feliratkozás
Ne maradjon le a kemma.hu legfontosabb híreiről! Adja meg a nevét és az e-mail-címét, és mi naponta elküldjük Önnek a legfontosabb híreinket!