{"id":24764,"date":"2021-05-27T10:48:36","date_gmt":"2021-05-27T08:48:36","guid":{"rendered":"https:\/\/www.kaspersky.it\/blog\/?p=24764"},"modified":"2022-07-07T17:15:27","modified_gmt":"2022-07-07T15:15:27","slug":"rsa2021-tesla-mobileye-perception-gap","status":"publish","type":"post","link":"https:\/\/www.kaspersky.it\/blog\/rsa2021-tesla-mobileye-perception-gap\/24764\/","title":{"rendered":"I piloti automatici di Tesla e Mobileye sono stati raggirati da &#8220;fantasmi&#8221;"},"content":{"rendered":"<p>\u00c8 un espediente comune nelle trame dei film: il protagonista pensa di aver visto qualcuno entrare in una strada, quindi sterza e finisce in un fosso. Ora immaginate che accada nella realt\u00e0, pi\u00f9 o meno, e invece di essere provocato da un gioco di luce o della mente, quell\u2019immagine proviene da un criminale informatico che proietta, per una frazione di secondo, qualcosa a cui il pilota automatico dell\u2019auto \u00e8 programmato per reagire. I ricercatori di Georgia Tech e dell\u2019Universit\u00e0 Ben-Gurion del Negev hanno <a href=\"https:\/\/www.rsaconference.com\/library\/Presentation\/USA\/2021\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">analizzato<\/a>\u00a0questa tipologia di minaccia di \u201cattacco fantasma\u201d alla <a href=\"https:\/\/www.kaspersky.it\/blog\/?s=rsac\" target=\"_blank\" rel=\"noopener\">RSA Conference 2021<\/a>.<\/p>\n<p>L\u2019idea di mostrare immagini pericolose ai sistemi di intelligenza artificiale non \u00e8 nuova. Le tecniche di solito implicano l\u2019uso di <a href=\"https:\/\/www.kaspersky.it\/blog\/machine-learning-nine-challenges\/16160\/\" target=\"_blank\" rel=\"noopener\">immagini modificate<\/a> per forzare l\u2019IA a trarre una conclusione inaspettata. Tutti gli algoritmi di apprendimento automatico hanno questo tallone d\u2019Achille; sapere quali caratteristiche sono fondamentali per il riconoscimento delle immagini, ovvero conoscere un po\u2019 l\u2019algoritmo, consente di modificare le immagini in modo da ostacolare il processo decisionale della macchina o addirittura costringerla a commettere un errore.<\/p>\n<p>La novit\u00e0 dell\u2019approccio dimostrato alla RSA Conference 2021 \u00e8 che al pilota automatico sono state mostrate immagini non modificate, quindi un eventuale malintenzionato non deve sapere necessariamente come funziona l\u2019algoritmo o quali caratteristiche impiega. Le immagini sono state proiettate brevemente sulla strada e sugli oggetti immobili vicini, con queste conseguenze:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/1cSw4fXYqWI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>In una variazione del modello, le immagini sono apparse per una frazione di secondo in uno spot su un cartellone accanto alla strada, e il risultato \u00e8 stato essenzialmente lo stesso:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/-E0t_s6bT_4?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>Gli autori dello studio sono giunti alla conclusione che i criminali informatici possono seminare il caos da una distanza di sicurezza, senza correre il pericolo di lasciare prove sulla scena del crimine. Tutto quello di cui hanno bisogno \u00e8 sapere per quanto tempo devono proiettare l\u2019immagine per ingannare l\u2019IA (le auto con guida autonoma hanno una soglia di attivazione per ridurre la probabilit\u00e0 di produrre falsi positivi dovuti, ad esempio, a sporco o a detriti sulla lente della fotocamera o lidar).<\/p>\n<p>Ora, la distanza di frenata di un\u2019auto \u00e8 misurata in decine di metri, quindi aggiungere qualche metro per consentire una migliore valutazione della situazione non \u00e8 stato un grosso problema per gli sviluppatori di IA.<\/p>\n<div id=\"attachment_24768\" style=\"width: 1810px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-24768\" class=\"wp-image-24768 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/89\/2021\/05\/27103608\/rsa2021-tesla-mobileye-perception-gap-chart.png\" alt=\"Tempo di reazione dei sistemi di riconoscimento Tesla e Mobileye a un'immagine fantasma\" width=\"1800\" height=\"1400\"><p id=\"caption-attachment-24768\" class=\"wp-caption-text\">Durata del tempo necessario per mostrare un\u2019immagine fantasma ai sistemi di riconoscimento Tesla e Mobileye. <a href=\"https:\/\/www.rsaconference.com\/library\/Presentation\/USA\/2021\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">Fonte<\/a>]<\/p><\/div>\n<p>Tuttavia, il dato che si riferisce a un paio di metri si applica al sistema di visione artificiale Mobileye e a una velocit\u00e0 di 60 km\/h (circa 37 mph). In questo caso, il tempo di risposta \u00e8 di circa 125 millisecondi. La soglia di risposta del pilota automatico di Tesla, come determinato dai ricercatori in modo sperimentale, \u00e8 quasi tre volte maggiore, raggiungendo i 400 millisecondi. Alla stessa velocit\u00e0, si aggiungerebbero quasi 7 metri (circa 22 piedi). In ogni caso, si tratta ancora di una frazione di secondo. Di conseguenza, i ricercatori credono che un attacco del genere potrebbe cogliervi all\u2019improvviso e non ve ne accorgereste, e cos\u00ec vi ritrovereste in un fosso e il drone che stava proiettando le immagini avrebbe il tempo di sparire.<\/p>\n<p>Si spera che un\u2019imperfezione nel sistema consenta ai piloti automatici di respingere questo tipo di attacco: le immagini proiettate su superfici inadatte alla visualizzazione di immagini sono molto diverse dalla realt\u00e0. Distorsione prospettica, bordi irregolari, colori innaturali, contrasto estremo e altre imperfezioni fanno s\u00ec che le immagini fantasma possano essere identificate facilmente dall\u2019occhio umano.<\/p>\n<p>Come tale, la vulnerabilit\u00e0 del pilota automatico agli attacchi fantasma \u00e8 una conseguenza del divario di percezione tra l\u2019IA e il cervello umano. Per superare il divario, gli autori dello studio propongono di dotare i sistemi con pilota automatico di controlli aggiuntivi per verificare la coerenza di caratteristiche come la prospettiva, la regolarit\u00e0 dei bordi, il colore, il contrasto e la luminosit\u00e0, affinch\u00e9 i risultati siano coerenti prima di prendere qualsiasi decisione. Come in una giuria umana, le reti neurali delibereranno sui parametri che aiutano a distinguere i segnali reali della telecamera o del lidar da un fantasma sfuggente.<\/p>\n<p>Fare ci\u00f2, naturalmente, aggiungerebbe un carico computazionale ai sistemi e porterebbe al funzionamento in parallelo di diverse reti neurali in una sola volta, che dovranno essere tutte allenate in modo adeguato (un processo lungo e dispendioso in termini di energia). E le automobili, che sono gi\u00e0 dei piccoli cluster di computer su ruote, dovranno trasformarsi in piccoli cluster di supercomputer su ruote.<\/p>\n<p>Con la diffusione degli <a href=\"https:\/\/it.wikipedia.org\/wiki\/Acceleratore_IA\" target=\"_blank\" rel=\"noopener nofollow\">acceleratori di IA<\/a>, le auto potrebbero essere in grado di portare a bordo diverse reti neurali che lavorano in parallelo e non consumano energia; ma di questo parleremo un altro giorno.<\/p>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"kesb-top3\">\n","protected":false},"excerpt":{"rendered":"<p>I ricercatori della RSA Conference 2021 hanno dimostrato come i piloti automatici di Tesla e Mobileye possono essere ingannati da immagini &#8220;fantasma&#8221;.<\/p>\n","protected":false},"author":2454,"featured_media":24766,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2364,2955,2956,2195],"tags":[1516,3536,1517,3535,3095,1883,753,994],"class_list":{"0":"post-24764","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-business","8":"category-enterprise","9":"category-smb","10":"category-technology","11":"tag-ai","12":"tag-auto-con-guida-autonoma","13":"tag-intelligenza-artificiale","14":"tag-rsa-2021","15":"tag-rsa-conference","16":"tag-rsac","17":"tag-tecnologia","18":"tag-tesla"},"hreflang":[{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/rsa2021-tesla-mobileye-perception-gap\/24764\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/rsa2021-tesla-mobileye-perception-gap\/22909\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/18394\/"},{"hreflang":"ar","url":"https:\/\/me.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/9143\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/24828\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/rsa2021-tesla-mobileye-perception-gap\/22821\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/22002\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/rsa2021-tesla-mobileye-perception-gap\/25378\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/rsa2021-tesla-mobileye-perception-gap\/30814\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/rsa2021-tesla-mobileye-perception-gap\/9684\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/40064\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/rsa2021-tesla-mobileye-perception-gap\/17008\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/rsa2021-tesla-mobileye-perception-gap\/17546\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/rsa2021-tesla-mobileye-perception-gap\/14879\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/rsa2021-tesla-mobileye-perception-gap\/26837\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/rsa2021-tesla-mobileye-perception-gap\/30846\/"},{"hreflang":"nl","url":"https:\/\/www.kaspersky.nl\/blog\/rsa2021-tesla-mobileye-perception-gap\/27100\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/rsa2021-tesla-mobileye-perception-gap\/23966\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/rsa2021-tesla-mobileye-perception-gap\/29286\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/rsa2021-tesla-mobileye-perception-gap\/29083\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.it\/blog\/tag\/rsac\/","name":"RSAC"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/24764","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/users\/2454"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/comments?post=24764"}],"version-history":[{"count":8,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/24764\/revisions"}],"predecessor-version":[{"id":26967,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/24764\/revisions\/26967"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/media\/24766"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/media?parent=24764"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/categories?post=24764"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/tags?post=24764"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}