{"id":28083,"date":"2023-10-17T10:47:51","date_gmt":"2023-10-17T08:47:51","guid":{"rendered":"https:\/\/www.kaspersky.it\/blog\/?p=28083"},"modified":"2023-10-17T10:47:51","modified_gmt":"2023-10-17T08:47:51","slug":"ethical-ai-usage-in-cybersecurity","status":"publish","type":"post","link":"https:\/\/www.kaspersky.it\/blog\/ethical-ai-usage-in-cybersecurity\/28083\/","title":{"rendered":"Kaspersky esorta ad un uso etico dell’IA nel campo della cybersecurity"},"content":{"rendered":"

Il rapido sviluppo dei sistemi di IA e i tentativi di integrarli in modo capillare sono fonte di ottimismo e di preoccupazione. L\u2019IA pu\u00f2 aiutare gli esseri umani in svariati ambiti, come il settore della cybersecurity ha potuto constatare in prima persona. Noi di Kaspersky utilizziamo l\u2019apprendimento automatico o machine learning <\/em>(ML) da quasi 20 anni<\/a> e sappiamo bene che senza i sistemi di IA non sarebbe possibile difendersi dall\u2019enorme variet\u00e0 di minacce informatiche esistenti. In questo periodo abbiamo anche identificato un\u2019ampia gamma di problemi<\/a> associati all\u2019IA, dall\u2019addestramento su dati errati, agli attacchi dannosi<\/a> ai sistemi di IA, fino all\u2019utilizzo dell\u2019IA per scopi non etici.<\/p>\n

Diverse piattaforme di dialogo e organizzazioni internazionali hanno gi\u00e0 sviluppato principi generali per una IA etica (ad esempio, qui trovate le raccomandazioni dell\u2019UNESCO<\/a>), ma linee guida pi\u00f9 specifiche per il settore della cybersecurity non sono ancora state accettate da tutti.<\/p>\n

Per utilizzare l\u2019IA nel campo della cybersicurezza evitando conseguenze negative, proponiamo che il settore faccia propri una serie di principi etici sull\u2019uso dell\u2019IA<\/strong>. La prima versione di queste proposte verr\u00e0 presentata all\u2019Internet Governance Forum<\/a> delle Nazioni Unite a Kyoto, in Giappone. Naturalmente, i principi devono essere discussi e chiariti in collaborazione con tutta community del settore della sicurezza informatica, ma noi li stiamo gi\u00e0 applicando. Quali sono questi principi? Eccoli in breve.<\/p>\n

Trasparenza<\/h2>\n

Gli utenti hanno il diritto di sapere se un security provider utilizza sistemi di intelligenza artificiale, nonch\u00e9 come questi sistemi prendono decisioni e per quali scopi. Per questo motivo ci impegniamo a sviluppare sistemi di IA che siano il pi\u00f9 possibile interpretabili, con tutte le salvaguardie necessarie per garantire che producano risultati validi. Chiunque pu\u00f2 conoscere il nostro codice e i nostri flussi di lavoro visitando uno dei nostri Kaspersky Transparency Center<\/a>.<\/p>\n

La sicurezza<\/h2>\n

Tra le minacce che incombono sui sistemi di IA vi \u00e8 la manipolazione dei dataset di input per produrre decisioni inappropriate. Pertanto, riteniamo che gli sviluppatori di IA debbano dare priorit\u00e0 alla resilienza e alla sicurezza.<\/p>\n

A tal fine, adottiamo tutta una serie di misure pratiche per fornire sistemi di IA di alta qualit\u00e0: audit di sicurezza specifici per l\u2019IA e red teaming; uso minimo di dataset di terzi nell\u2019ambito dell\u2019addestramento; implementazione di una serie di tecnologie per una protezione multi-stratificata<\/a>. Ove possibile, privilegiamo l\u2019IA basata sul cloud (con tutte le necessarie protezioni) rispetto ai modelli con installazione locale.<\/p>\n

Controllo umano<\/h2>\n

Sebbene i nostri sistemi di ML possano operare autonomamente, i loro risultati e le loro prestazioni sono costantemente monitorati da esperti. I verdetti dei nostri sistemi automatizzati vengono perfezionati in base alle necessit\u00e0 e i sistemi stessi vengono adattati e modificati dagli esperti per resistere a cyberminacce nuove e\/o altamente sofisticate. Combiniamo il machine learning<\/em> con l\u2019esperienza umana e ci impegniamo a mantenere sempre questo elemento umano di controllo nei nostri sistemi.<\/p>\n

La privacy<\/h2>\n

L\u2019IA non pu\u00f2 essere addestrata senza i big data, che in parte possono includere dati personali. Pertanto, un approccio etico al suo utilizzo deve rispettare il diritto alla privacy delle persone. Nell\u2019ambito dell\u2019information security, ci\u00f2 pu\u00f2 comportare adottare diverse misure: limitare i tipi e la quantit\u00e0 di dati trattati; pseudonimizzare e anonimizzare; ridurre la composizione dei dati; garantire l\u2019integrit\u00e0 dei dati; applicare misure tecniche e organizzative per proteggere i dati.<\/p>\n

Sviluppato per la cybersecurity<\/h2>\n

L\u2019IA nella cybersecurity deve essere utilizzata esclusivamente a scopo difensivo. Ci\u00f2 costituisce parte integrante della nostra missione di costruire un mondo sicuro in cui le tecnologie di domani migliorino la vita di tutti noi.<\/p>\n

Aperti al dialogo<\/h2>\n

Crediamo che solo lavorando insieme si possano superare gli ostacoli associati all\u2019adozione e all\u2019utilizzo dell\u2019intelligenza artificiale nell\u2019ambito della sicurezza. Per questo motivo, promuoviamo il dialogo con tutte le parti coinvolte per condividere le migliori pratiche rispetto ad un uso etico dell\u2019IA.<\/p>\n

Per saperne di pi\u00f9 sui nostri principi e sulle nostre proposte rispetto all\u2019uso etico dell\u2019IA nel campo della sicurezza, visitate questa pagina<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Proponiamo sei principi per un uso etico dell’IA nel settore della cybersecurity che saranno presentati all’Internet Governance Forum globale.<\/p>\n","protected":false},"author":2706,"featured_media":28084,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2642],"tags":[1516,2620,1517,3724,45,2618],"class_list":{"0":"post-28083","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-special-projects","8":"tag-ai","9":"tag-ia","10":"tag-intelligenza-artificiale","11":"tag-machine-learning","12":"tag-sicurezza","13":"tag-trasparenza"},"hreflang":[{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/ethical-ai-usage-in-cybersecurity\/28083\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/ethical-ai-usage-in-cybersecurity\/26332\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/ethical-ai-usage-in-cybersecurity\/21765\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/ethical-ai-usage-in-cybersecurity\/29008\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/ethical-ai-usage-in-cybersecurity\/26615\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/ethical-ai-usage-in-cybersecurity\/26735\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/ethical-ai-usage-in-cybersecurity\/29229\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/ethical-ai-usage-in-cybersecurity\/36342\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/ethical-ai-usage-in-cybersecurity\/49184\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/ethical-ai-usage-in-cybersecurity\/21065\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/ethical-ai-usage-in-cybersecurity\/21855\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/ethical-ai-usage-in-cybersecurity\/30552\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/ethical-ai-usage-in-cybersecurity\/34901\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/ethical-ai-usage-in-cybersecurity\/26908\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/ethical-ai-usage-in-cybersecurity\/32619\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/ethical-ai-usage-in-cybersecurity\/32273\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.it\/blog\/tag\/ai\/","name":"AI"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/28083","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/users\/2706"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/comments?post=28083"}],"version-history":[{"count":1,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/28083\/revisions"}],"predecessor-version":[{"id":28085,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/posts\/28083\/revisions\/28085"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/media\/28084"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/media?parent=28083"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/categories?post=28083"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.it\/blog\/wp-json\/wp\/v2\/tags?post=28083"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}