{"id":14182,"date":"2017-08-31T15:46:41","date_gmt":"2017-08-31T13:46:41","guid":{"rendered":"https:\/\/www.kaspersky.it\/blog\/?p=14182"},"modified":"2019-11-22T11:11:04","modified_gmt":"2019-11-22T09:11:04","slug":"ai-fails","status":"publish","type":"post","link":"https:\/\/www.kaspersky.it\/blog\/ai-fails\/14182\/","title":{"rendered":"Perch\u00e9 l&#8217;apprendimento automatico da solo non basta"},"content":{"rendered":"<p>Le tecnologie con connessione a Internet invadono le nostre vite ogni giorno di pi\u00f9. Ormai non ci sembra pi\u00f9 strano chiedere aiuto a Siri o ad Alexa o a Google per interpretare la nostra realt\u00e0 e ci aspettiamo che le nostre automobili seguano il codice della strada e reagiscano in tempo per salvarci la pelle. Alcuni di noi sono preoccupati per l\u2019utilizzo eccessivo di alcune tecnologie quali le telecamere pubbliche che captano immagini utilizzate dai software di riconoscimento facciale, mentre molte altre persone non se ne preoccupano affatto.<\/p>\n<p><a href=\"https:\/\/www.kaspersky.it\/downloads\/thank-you\/internet-security-free-trial?%26redef=1&amp;reseller=it_kdailyitapics_acq_ona_smm__onl_b2c__lnk_______\" target=\"_blank\" rel=\"noopener\"><input type=\"hidden\" class=\"category_for_banner\" value=\"kis-difenditi-attacchi-informatici\"><\/a><\/p>\n<p>\u00a0<\/p>\n<p>\u00a0<\/p>\n<p>Al momento, gli errori commessi dall\u2019Intelligenza Artificiale ci fanno sorridere la maggior parte delle volte (mettendo per un attimo da parte le possibili fatali conseguenze). Tuttavia, visto che le macchine continuano a evolversi e di pari passo anche i malware, in un prossimo futuro potremmo non sorridere pi\u00f9 cos\u00ec tanto. Nel frattempo, continuiamo a divertirci e diamo un\u2019occhiata ad alcuni inconvenienti dovuti all\u2019Intelligenza Artificiale.<\/p>\n<p><strong>La d\u00e9b\u00e2cle della casa delle bambole<\/strong><\/p>\n<p>Ecco un esempio classico: all\u2019inizio di quest\u2019anno, un programma di notizie trasmesso in California ha scatenato una sorta di reazione a catena. Si parlava di un incidente che coinvolgeva l\u2019intelligenza artificiale che ha causato un altro incidente dello stesso tipo. La notizia\u00a0 di un altoparlante Amazon Echo che ha ordinato per errore una casa delle bambole ha provocato che altri Amazon Echo attivi (che sono sempre molto ricettivi, \u201cascoltano\u201d qualsiasi cosa e non fanno distinzione tra la voce del proprietario e le altre voci) a loro volta ordinassero altre case delle bambole. Meglio non giocare con questi aggeggi a casa.<\/p>\n<ul>\n<li><a href=\"https:\/\/www.kaspersky.it\/blog\/voice-recognition-threats\/9863\/\" target=\"_blank\" rel=\"noopener\">Per saperne di pi\u00f9 su Amazon Echo e le case delle bambole<\/a><\/li>\n<\/ul>\n<p><strong>Il flop del fast food<\/strong><\/p>\n<p>Burger King ha cercato di sfruttare il bug di cui abbiamo appena parlato per catturare l\u2019attenzione degli assistenti vocali dei telespettatori. E, in un certo qual modo, ci sono riusciti. Il vero problema \u00e8 sorto nel non riuscire ad anticipare il comportamento umano: attivando la ricerca per il famoso Whopper mediante Google Home si veniva reindirizzati a Wikipedia, dove gli utenti hanno potuto scrivere di tutto sul famoso hamburger del gigante del fast food. <a href=\"http:\/\/www.npr.org\/sections\/thetwo-way\/2017\/04\/13\/523740193\/ok-google-burger-king-hijacked-your-speakers-and-failed-pretty-quickly\" target=\"_blank\" rel=\"noopener nofollow\">Ecco come \u00e8 andata.<\/a><\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/n5lj63-nc5g?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p><strong>La confusione di Cortana<\/strong><\/p>\n<p>Non possiamo puntare il dito solo sull\u2019assistente vocale di Microsoft, anche Siri di Apple ha avuto i suoi momenti di confusione per non parlare dell\u2019assistente di Google che ha causato momenti esilaranti. Ma il tutto \u00e8 ancora pi\u00f9 comico se al fraintendimento assistono centinaia di persone. Ecco quello che succede quando Cortana non capisce un accento non americano o quando va in loop per colpa di un linguaggio veloce e naturale:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/DDqrfCmIPxI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p><strong>Come ingannare il riconoscimento facciale<\/strong><\/p>\n<p>I vostri amici non si lascerebbero ingannare da un buffo o strano paio di occhiali, tuttavia i ricercatori della Carnegie Mellon University hanno dimostrato che cambiare questo dettaglio del vostro look \u00e8 sufficiente per rendervi completamenti differenti agli occhi di una macchina. La parte migliore \u00e8 che i ricercatori non solo sono riusciti a ingannare il riconoscimento facciale ma anche a impersonificare altre persone stampando alcune caratteristiche peculiari sulle montature.<\/p>\n<div id=\"attachment_14278\" style=\"width: 1074px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-14278\" class=\"wp-image-14278 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2017\/09\/04125648\/1064.jpg\" alt=\"\" width=\"1064\" height=\"638\"><p id=\"caption-attachment-14278\" class=\"wp-caption-text\">I ricercatori sono riusciti a diventare altre persone, anche celebrity o scambiarsi vicendevolmente l\u2019identit\u00e0<\/p><\/div>\n<ul>\n<li>Il giornale <em><a href=\"https:\/\/www.theguardian.com\/technology\/2016\/nov\/03\/how-funky-tortoiseshell-glasses-can-beat-facial-recognition\" target=\"_blank\" rel=\"noopener nofollow\">The Guardian<\/a><\/em> spiega tutti i dettagli in un articolo.<\/li>\n<li>E qui il <a href=\"https:\/\/www.cs.cmu.edu\/~sbhagava\/papers\/face-rec-ccs16.pdf\" target=\"_blank\" rel=\"noopener nofollow\">lavoro originale<\/a>.<\/li>\n<\/ul>\n<p><strong>Imprevisti con la segnaletica<\/strong><\/p>\n<p>E cosa dire del riconoscimento della segnaletica stradale da parte delle auto senza conducente? Meglio del riconoscimento facciale? Mica tanto. Un altro gruppo di ricercatori ha dimostrato che il riconoscimento della segnaletica \u00e8 perfettibile. Alcuni minimi cambiamenti che qualsiasi essere umano bypasserebbe fanno s\u00ec che il sistema di apprendimento automatico scambi il segnale di STOP con quello di limite di velocit\u00e0 a 45 miglia. E non si trattava di un errore puntuale, \u00e8 accaduto il 100% delle volte durante il test.<\/p>\n<div id=\"attachment_14279\" style=\"width: 1260px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-14279\" class=\"wp-image-14279 size-full\" style=\"font-size: 1.13em;font-style: italic\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2017\/09\/04125857\/Road-Signs.jpg\" alt=\"\" width=\"1250\" height=\"455\"><p id=\"caption-attachment-14279\" class=\"wp-caption-text\">Il sistema automatizzato ha scambiato 3 di queste immagini ritoccate come \u201cLimite di velocit\u00e0 45 miglia\u201d, invece si trattava di un segnale di \u201cStop\u201d<\/p><\/div>\n<ul>\n<li>Per saperne di pi\u00f9 sui <a href=\"https:\/\/www.bleepingcomputer.com\/news\/security\/you-can-trick-self-driving-cars-by-defacing-street-signs\/\" target=\"_blank\" rel=\"noopener nofollow\">problemi di riconoscimento dei segnali stradali<\/a>.<\/li>\n<li>E qui il <a href=\"https:\/\/arxiv.org\/pdf\/1412.6572.pdf\" target=\"_blank\" rel=\"noopener nofollow\">lavoro originale.<\/a><\/li>\n<\/ul>\n<p><strong>Il panda invisibile<\/strong><\/p>\n<p>Quanto bisogna alterare l\u2019informazione iniziale per ingannare il sistema di apprendimento automatico? Sareste sorpresi dal fatto che i cambiamenti necessari sono minimi. L\u2019occhio umano non percepisce differenze tra queste due immagini, mentre la macchina \u00e8 abbastanza sicura che si tratti di due \u201coggetti\u201d completamente diversi, un panda e un gibbone rispettivamente (\u00e8 curioso, aggiungendo del rumore all\u2019immagine originale la macchina riconosceva un nematode).<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"size-full wp-image-14280 aligncenter\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2017\/09\/04130250\/invidible-panda.png\" alt=\"\" width=\"1600\" height=\"520\"><\/p>\n<ul>\n<li>Este es un <a href=\"https:\/\/blog.openai.com\/adversarial-example-research\/\" target=\"_blank\" rel=\"noopener nofollow\">art\u00edculo m\u00e1s detallado al respecto<\/a>.<\/li>\n<li>Y, por supuesto, <a href=\"https:\/\/arxiv.org\/pdf\/1412.6572.pdf\" target=\"_blank\" rel=\"noopener nofollow\">la investigaci\u00f3n<\/a>.<\/li>\n<\/ul>\n<p><strong>La terribile Tay<\/strong><\/p>\n<p>L\u2019esperimento di chatbot di Microsoft, chiamato Tay, doveva assomigliare a una teenager capace di apprendere dalla interazioni su social media. In realt\u00e0 noi essere umani siamo dei mostri e Tay ha seguito il nostro esempio diventando, tra le altre cose, una nazista. L\u2019Intelligenza Artificiale pu\u00f2 crescere ma la qualit\u00e0 e le caratteristiche dipendono sempre dall\u2019input umano.<\/p>\n<p>Qui potrete <a href=\"http:\/\/www.techrepublic.com\/article\/why-microsofts-tay-ai-bot-went-wrong\/\" target=\"_blank\" rel=\"noopener nofollow\">leggere di Tay<\/a> e delle sue disavventure.<\/p>\n<p>L\u2019errore pi\u00f9 grave fino a ora appartiene a Tesla , tuttavia in questo caso non possiamo incolpare l\u2019Intelligenza Artificiale: nonostane il nome Autopilot lo evochi, in realt\u00e0 il sistema non avrebbe dovuto prendere completamente il controllo della guida. Alcune ricerche hanno dimostrato che la persona seduta al posto di guida non ha agito da conducente responsabile, ha ignorato gli avvertimenti quando le mani non erano sul volante, ha stabilito la velocit\u00e0 di crociera oltre i limiti e non ha agito <a href=\"https:\/\/www.extremetech.com\/extreme\/251299-dead-tesla-driver-wasnt-watching-dvd-wasnt-paying-attention-either\" target=\"_blank\" rel=\"noopener nofollow\">durante i 7 secondi e oltre<\/a> in cui \u00e8 apparso il camion che lo ha poi ucciso.<\/p>\n<p>Forse l\u2019Autopilot avrebbe potuto evitare l\u2019incidente ma a questo punto sappiamo che non sono stati superati i parametri ed \u00e8 questo il lavoro di un software.<\/p>\n<p>Al momento anche se esiste l\u2019apprendimento automatico, grazie al quale un software diventa pi\u00f9 \u201cintelligente\u201d con l\u2019esperienza, l\u2019Intelligenza Artificiale non si avvicina ancora a quella umana. Le macchine sono veloci, costanti e instancabili, caratteristiche che s\u2019integrano bene che l\u2019ingegno e l\u2019intuizione umani.<\/p>\n<p>Il nostro approccio, che abbiamo chiamato <a href=\"https:\/\/www.kaspersky.com\/true-cybersecurity?redef=1&amp;reseller=gl_truecs_acq_ona_smm__onl_b2b_blog_ban_______\" target=\"_blank\" rel=\"noopener nofollow\">HuMachine<\/a>, \u00e8 proprio quello di prendere il meglio dai due \u201cmondi\u201d, usando la velocit\u00e0 e la meticolosit\u00e0 dell\u2019Intelligenza Artificiale e potenziandola con l\u2019esperienza tutta umana dei professionisti della cybersicurezza. I loro occhi e le loro menti sono allenati a combattere i malware e a fare in modo che utenti, aziende e infrastrutture lavorino e funzionino in totale sicurezza.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Artificiale? Molto. Intelligenza? Giudicate voi.<\/p>\n","protected":false},"author":2045,"featured_media":14184,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2642,2195],"tags":[2264,2517,1517,2550],"class_list":{"0":"post-14182","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-special-projects","8":"category-technology","9":"tag-apprendimento-automatico","10":"tag-humachine","11":"tag-intelligenza-artificiale","12":"tag-problematiche"},"hreflang":[{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/ai-fails\/14182\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/ai-fails\/11163\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/ai-fails\/12535\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/ai-fails\/11221\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/ai-fails\/14276\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/ai-fails\/18678\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/ai-fails\/18318\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/ai-fails\/7313\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/ai-fails\/14540\/"},{"hreflang":"zh","url":"https:\/\/www.kaspersky.com.cn\/blog\/ai-fails\/8378\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/ai-fails\/17733\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/ai-fails\/17782\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/ai-fails\/17762\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.it\/blog\/tag\/apprendimento-automatico\/","name":"apprendimento automatico"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/14182","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/users\/2045"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/comments?post=14182"}],"version-history":[{"count":7,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/14182\/revisions"}],"predecessor-version":[{"id":18742,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/14182\/revisions\/18742"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/media\/14184"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/media?parent=14182"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/categories?post=14182"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/tags?post=14182"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}