Tha GenAI na chunnart cybersecurity
Tha faisg air leth de phroifeiseantaich tèarainteachd ag aontachadh gur e GenAI aon de na cunnartan tèarainteachd as motha aca.
Tha còrr air dà thrian den bheachd gur e ath-sgrùdadh bhon taobh a-muigh air buileachadh AI an dòigh as fheàrr air cùisean sàbhailteachd is tèarainteachd AI a chomharrachadh
HackerOne, stiùiriche ann an sàbhailteachd le cumhachd daonna, dàta bho sgrùdadh san dàrna leth den t-Sultain. Gu sònraichte, chaidh a lorg gu bheil 48% de phroifeasantaich tèarainteachd den bheachd gur e AI an cunnart tèarainteachd as cudromaiche don bhuidheann aca. Mus deach an aithisg bhliadhnail aca fhoillseachadh Aithisg tèarainteachd le cumhachd hacker, HackerOne ha rivelato i primi risultati, che includono i dati di un sondaggio di 500 professionisti della sicurezza. Quando si tratta di inntleachd fuadain, gli intervistati erano più preoccupati per la fuga di dati di formazione (35%), l’uso non autorizzato dell’IA all’interno delle loro organizzazioni (33%) e l’hacking dei modelli di inntleachd fuadain da parte di estranei (32%).
Alla domanda sulla gestione delle sfide che i problemi di sicurezza e protezione dell’IA presentano, il 68% ha affermato che una revisione esterna e imparziale delle implementazioni di IA è il modo più efficace per identificare i problemi di sicurezza e sicurezza dell’IA. Il team rosso AI offre questo tipo di revisione esterna attraverso la comunità dei ricercatori di sicurezza globale, che aiutano a salvaguardare i modelli di inntleachd fuadain da rischi, pregiudizi, exploit dannosi e output dannosi.
“Fhad‘ s a tha sinn fhathast a’ tighinn gu co-aontachd gnìomhachais air na cleachdaidhean as fheàrr a thaobh tèarainteachd is sàbhailteachd AI, tha cuid de innleachdan soilleir ann far an do shoirbhich le buidhnean," thuirt Michiel Prins, co-stèidheadair HackerOne. Anthropic, Adobe, Snap e altre organizzazioni leader si affidano alla comunità di ricercatori di sicurezza globale per dare una prospettiva di esperti di terze parti sulle loro implementazioni di inntleachd fuadain.
Lorg a bharrachd airson a Aithisg Institiùd SANS le taic bho HackerOne ha esplorato l’impatto dell’IA sulla sicurezza informatica e ha rilevato che oltre la metà (58%) degli intervistati prevede che l’IA possa contribuire a una “corsa alle armi” tra le tattiche e le tecniche utilizzate dai team di sicurezza e dai criminali informatici. La ricerca ha anche trovato ottimismo sull’uso dell’IA per la produttività del team di sicurezza, con il 71% che ha riportato soddisfazione dall’implementazione dell’IA per automatizzare attività noiose. Tuttavia, gli intervistati ritengono che gli aumenti di produttività dell’IA abbiano avvantaggiato gli avversari e fossero maggiormente interessati alle campagne di phishing basate sull’inntleachd fuadain (79%) e allo sfruttamento automatizzato delle vulnerabilità (74%).
“I team di sicurezza devono trovare le migliori applicazioni per l’inntleachd fuadain per stare al passo con gli avversari, considerando anche i suoi limiti esistenti – o rischiano di creare più lavoro per se stessi”, ha affermato Matt Bromiley, analista presso il SANS Institute. “La nostra ricerca suggerisce che l’IA dovrebbe essere vista come un fattore abilitante, piuttosto che una minaccia per i posti di lavoro. L’automazione delle attività di routine consente ai team di sicurezza di concentrarsi su attività più strategiche.
An co-phìleat stèidhichte airinntleachd fuadain di HackerOne, Hai, continua a liberare tempo per i team di sicurezza automatizzando le attività e offrendo informazioni più approfondite sulle vulnerabilità. Questi benefici guidano l’adozione di Hai, che è cresciuta del 150% dal lancio e consente ai team di sicurezza di risparmiare in media cinque ore di lavoro al mese. I prodotti incentrati sull’inntleachd fuadain continuano anche a guidare il business di HackerOne, con Sgioba AI Red a ’dol suas del 200% cairteal-às-cairteal ann an Q171 agus àrdachadh XNUMX% ann am prògraman tèarainteachd a’ cur maoin AI ann an raon.
Dèan deuchainn air an ullachadh cunnairt AI agad le a’ cheisneachadh eadar-obrachail seo agus leugh suirbhidh agus modh-obrach SANS AI 2024 qui.
Thèid an làn aithisg air tèarainteachd le connadh hacker fhoillseachadh an tuiteam seo. Chaidh an sgrùdadh air proifeiseantaich tèarainteachd a dhèanamh le Opinion Matters agus rinn iad agallamhan le 500 proifeasanta tèarainteachd anns na Stàitean Aonaichte agus san Roinn Eòrpa. Chaidh an sgrùdadh a dhèanamh eadar 31 Iuchar 2024 agus 6 Lùnastal 2024.
Mu HackerOne
HackerOne è il leader globale nella sicurezza a propulsione umana, sfruttando la creatività della più grande comunità di ricercatori di sicurezza del mondo con un’inntleachd fuadain all’avanguardia per proteggere le tue risorse digitali. La piattaforma HackerOne combina l’esperienza della nostra comunità d’élite e il stòr-dàta di vulnerabilità più aggiornato per individuare i difetti di sicurezza critici sulla superficie di attacco. Le nostre soluzioni integrate, tra cui bug bounty, pentesting, audit di sicurezza del codice, controlli a campione e teaming rosso AI, garantiscono la continua scoperta e la gestione delle vulnerabilità durante tutto il ciclo di vita dello sviluppo del software. Scelto da leader del settore come Coinbase, General Motors, GitHub, Goldman Sachs, Hyatt, PayPal, Snap Inc e Stati Uniti. Dipartimento della Difesa, HackerOne è stato nominato miglior posto di lavoro per gli innovatori da Fast Company nel 2023 e un posto di lavoro più adomato per giovani professionisti nel 2024.
