Η γενετική τεχνητή νοημοσύνη κάνει τις επιθέσεις phishing πιο πειστικές, και ιδίως τα μεγάλα γλωσσικά μοντέλα έχουν δημιουργήσει μια μαζικά εκτεθειμένη επιφάνεια επίθεσης.
Στην ασφάλεια στον κυβερνοχώρο κάθε νέα τεχνολογία δημιουργεί τόσο ένα νέο τοπίο απειλών όσο και εργαλεία για την άμυνά τους. Η γενετική τεχνητή νοημοσύνη δεν αποτελεί εξαίρεση.
«Η γενετική τεχνητή νοημοσύνη διευκολύνει τα πράγματα τόσο για τους αμυνόμενους όσο και για τους επιτιθέμενους», δήλωσε η Subha Tatavarti, επικεφαλής τεχνολογίας της Wipro, σε μια συζήτηση πάνελ που επικεντρώθηκε στις απειλές για την κυβερνοασφάλεια στην εποχή της τεχνητής νοημοσύνης στο συνέδριο Fortune Brainstorm AI στο Σαν Φρανσίσκο την περασμένη εβδομάδα.
Η γενετική τεχνητή νοημοσύνη κάνει τις επιθέσεις phishing πιο πειστικές, και ιδίως τα μεγάλα γλωσσικά μοντέλα έχουν δημιουργήσει μια μαζικά εκτεθειμένη επιφάνεια επίθεσης. Ταυτόχρονα, κακόβουλοι φορείς πουλάνε πλέον στο σκοτεινό διαδίκτυο chatbots που μοιάζουν με chatGPT και στοχεύουν σε hackers, τα οποία θα στραφούν σε επιθέσεις vector με την ίδια ταχύτητα με την οποία το προϊόν της OpenAI απαντά σε ερωτήσεις ή συνοψίζει κείμενο. Αλλά αυτό που συνιστά πρόκληση σχετικά με τον αντίκτυπο της γενετικής τεχνητής νοημοσύνης στην κυβερνοασφάλεια είναι η ιλιγγιώδης ταχύτητα με την οποία βρέθηκε στην αγορά (συμπεριλαμβανομένης της μαύρης αγοράς). Οι εταιρείες σε όλους τους τομείς προσπαθούν τώρα να κατανοήσουν όχι μόνο τις αναδυόμενες επιθέσεις που βασίζονται στη γενετική τεχνητή νοημοσύνη και να δημιουργήσουν νέα εργαλεία άμυνας, αλλά και να αντιμετωπίσουν τις ταχέως εξελισσόμενες προκλήσεις όσον αφορά την εσωτερική χρήση αυτών των εργαλείων, την πολιτική και τη συμμόρφωση. Ως αποτέλεσμα, ο ρόλος του CISO (chief information security officer – επικεφαλής ασφάλειας πληροφοριών) μπαίνει σε νέα βάση.
«Καταλαβαίνω ότι προκύπτουν προκλήσεις για τους σημερινούς CISO», δήλωσε η Tatavarti, προσθέτοντας ότι θα είναι ζωτικής σημασίας για αυτούς να καινοτομούν γρήγορα, συμπεριλαμβανομένης της δικής τους καινοτομίας πέρα από ό,τι είναι διαθέσιμο στην αγορά.
Η Tatavarti μίλησε μαζί με τον Itai Greenberg, επικεφαλής στρατηγικής της Check Point, και τον Rodrigo Madanes, παγκόσμιο επικεφαλής καινοτομίας ΤΝ στην EY, κατά τη διάρκεια μιας συνεδρίας στρατηγικής που διερεύνησε τον τρόπο με τον οποίο η ΤΝ επηρεάζει το εξελισσόμενο τοπίο της κυβερνοασφάλειας. Εν μέσω της συζήτησης για τα νέα είδη απειλών που γίνονται δυνατά από τη γενετική ΤΝ, ο αντίκτυπος στον ρόλο του CISO αναδεικνύεται σε κομβικό ζήτημα.
«Ο ρόλος του CISO είναι απίστευτα απαιτητικός και εξελίσσεται γρήγορα», επεσήμανε ο Madanes. «Νομίζω ότι αυτή τη στιγμή αυτό που συμβαίνει είναι ότι επιβάλλουν τις υπάρχουσες πολιτικές σχετικά με τα δεδομένα και την προστασία, αλλά καθώς περνούν στη σφαίρα της ανάληψης της ευθύνης για την προστασία της διάχυσης από τις συνομιλιακές διεπαφές που αναπτύσσονται, αυτό απαιτεί ένα διαφορετικό σύνολο δεξιοτήτων, ένα διαφορετικό σύνολο εργαλείων που δεν έχουν καν αναπτυχθεί, τα οποία είναι κυρίως εγχώρια αυτή τη στιγμή».
Παρομοίως, ο Greenberg δήλωσε ότι οι CISO θα πρέπει να σκέφτονται ποια εργαλεία χρησιμοποιούν και ποια δεδομένα μεταφορτώνουν σε αυτά τα εργαλεία, ιδίως σε δημόσια εργαλεία. Αυτό περιλαμβάνει επίσης την προσεκτική τοποθέτηση προστατευτικών δικλείδων, μεταξύ άλλων για το ποιος μπορεί να αφαιρέσει δεδομένα από αυτά τα συστήματα.
Για πολλούς, αυτό μοιάζει με ένα διαφορετικό είδος ρόλου από τους CISO του χθες, οι οποίοι περιορίζονταν περισσότερο στις τεχνικές πτυχές, όπως το ΙΤ outsourcing, παρά στη λήψη σημαντικών πολιτικών αποφάσεων. Αυτό το σημείο ενέπνευσε μια ζωηρή συζήτηση μεταξύ των συμμετεχόντων, οι οποίοι σχολίασαν τους αυξανόμενους κινδύνους που ενέχει η ιδιότητα του CISO και την εικασία ότι ο ρόλος μπορεί στην πραγματικότητα να χωριστεί σε δύο κομμάτια – έναν πιο επιχειρησιακό ρόλο και έναν που είναι περισσότερο προσανατολισμένος στη διακυβέρνηση.
Επισημαίνοντας το γεγονός ότι οι CISO θεωρούνται πλέον προσωπικά ποινικά υπεύθυνοι όσον αφορά τον χειρισμό των επιθέσεων στις εταιρείες τους, ένας συμμετέχων, ο Ross Camp από την εταιρεία ασφάλειας και προστασίας δεδομένων Commvault, ρώτησε αν θα πρέπει να ανησυχούμε για έλλειψη CISO στο εγγύς μέλλον. Μόλις τον περασμένο μήνα, ο πρώην CISO της SolarWinds, Timothy Brown, κατηγορήθηκε από την Επιτροπή Κεφαλαιαγοράς για εξαπάτηση επενδυτώνεπειδή δεν αποκάλυψε γνωστούς κινδύνους ασφαλείας που οδήγησαν σε μια μαζική επίθεση στην αλυσίδα εφοδιασμού της εταιρείας – και οι αναλυτές και οι νομικοί πιστεύουν ότι αυτό θα γίνει πολύ πιο συνηθισμένο.
Όσον αφορά τον τρόπο αντιμετώπισης των επιθέσεων γενετικής ΤΝ χρησιμοποιώντας γενετική ΤΝ, αυτό είναι ακόμη υπό εξέλιξη. Αλλά το 2024, όπως προβλέπει ο Madanes, ο κλάδος θα ξεκινήσει την κούρσα για τη δημιουργία λύσεων. «Σπεύδουμε να δημιουργήσουμε εμπορικές λύσεις, να τις αξιολογήσουμε και να τις αναπτύξουμε».
Ο Greenberg, ο οποίος αναφέρθηκε εκτενώς στους νέους τύπους επιθέσεων που διαμορφώνονται, όπως το phishing επόμενου επιπέδου και η διαθεσιμότητα εφαρμογών όπως το FraudGPT, υποστήριξε τη σημασία των πολλαπλών γραμμών άμυνας και προειδοποίησε να μην πιστεύουμε ότι ένα μόνο εργαλείο μπορεί να κάνει τη δουλειά.
«Είναι σημαντικό να καταλάβουμε ότι δεν μπορεί ένα μόνο σύστημα ή ένα μόνο προϊόν να το αντιμετωπίσει όλο αυτό» κατέληξε.
πηγη:fortunegreece