Microsoft Bongkar Bahaya AI di Tangan Hacker Korut hingga China
CNN Indonesia
Kamis, 22 Feb 2024 10:54 WIB
Bagikan:
URL berhasil disalin
Ilustrasi. Kelompok hacker dari berbagai negara mulai memanfaatkan AI. (Foto: iStockphoto)
Jakarta, CNN Indonesia --
Microsoft mengungkap para hacker dari berbagai negara mulai memanfaatkan teknologi kecerdasan buatan (AI) untuk melancarkan serangan siber. Bisakah serangan siber yang semakin canggih ini ditangkal?
Microsoft, dalam laporan 'Navigating Cyberthreats and Strengthening Defenses in the Era of AI', mengungkap Lanskap ancaman siber telah menjadi lebih menantang karena para penjahat yang semakin termotivasi, semakin canggih, dan memiliki sumber daya yang lebih baik.
Pelaku ancaman dan pihak yang bertahan sama-sama melirik AI, termasuk large language model (LLM), untuk meningkatkan produktivitas mereka dan memanfaatkan platform yang dapat diakses yang sesuai dengan tujuan dan teknik serangan mereka.
"Meskipun motif dan kecanggihan pelaku ancaman berbeda-beda, mereka memiliki tugas yang sama saat melancarkan serangan," kata Microsoft dalam laporannya, Selasa (20/2).
"Tugas-tugas tersebut meliputi pengintaian, seperti meneliti industri, lokasi, dan hubungan calon korban; pengkodean, termasuk meningkatkan skrip perangkat lunak dan pengembangan malware; dan bantuan untuk mempelajari dan menggunakan bahasa manusia dan mesin," lanjut keterangan itu.
Merespons hal tersebut, Microsoft bersama OpenAI dan sejumlah negara kemudian mengidentifikasi berbagai ancaman intelejen dari berbagai negara yang menggunakan AI.
Keterlibatan tentatif dengan LLM ini dapat mencerminkan perluasan perangkat pengumpulan intelijen dan fase eksperimental dalam menilai kemampuan teknologi yang sedang berkembang.
Microsoft, dalam laporannya, juga mengungkap modus penipuan yang memanfaatkan AI. Sintesis suara adalah salah satu contohnya. Teknologi saat ini cukup memakai bahan sampel suara selama tiga detik buat melatih model AI untuk terdengar seperti siapa pun.
Bahkan, sesuatu yang tidak berbahaya seperti sapaan pesan suara Anda dapat digunakan untuk mendapatkan sampel yang memadai.
Sebagian besar cara kita berinteraksi satu sama lain dan menjalankan bisnis bergantung pada pemeriksaan identitas, seperti mengenali suara, wajah, alamat email, atau gaya penulisan seseorang.
Berikut daftar kelompok hacker yang menggunakan AI dan bahayanya:
Forest Blizzard (STRONTIUM)
Microsoft menyebut aktor intelijen militer Rusia yang sangat efektif ini terkait dengan Direktorat Utama Staf Umum Angkatan Bersenjata Rusia atau GRU Unit 26165. Mereka telah menargetkan korban yang memiliki kepentingan taktis dan strategis bagi pemerintah Rusia.
Kegiatannya menjangkau berbagai sektor termasuk pertahanan, transportasi/logistik, pemerintah, energi, LSM, dan teknologi informasi.
Emerald Sleet (Velvet Chollima)
kelompok hacker dari Korea Utara yang ditemukan Microsoft menyamar sebagai lembaga akademik dan LSM terkemuka untuk memikat korban agar memberikan tanggapan dan komentar ahli tentang kebijakan luar negeri yang terkait dengan Korea Utara.
Penggunaan LLM oleh Emerald Sleet melibatkan penelitian terhadap lembaga think tank dan pakar mengenai Korea Utara, serta pembuatan konten yang kemungkinan besar akan digunakan dalam kampanye spear phishing.
Emerald Sleet juga berhubungan dengan LLM untuk memahami kerentanan yang diketahui publik, memecahkan masalah teknis, dan untuk mendapatkan bantuan dalam menggunakan berbagai teknologi web.
Crimson Sandstorm (CURIUM)
Microsoft mengungkap ini adalah kelompok hacker dari Iran yang dinilai memiliki hubungan dengan Korps Garda Revolusi Islam.
Penggunaan LLM telah melibatkan berbagai permintaan dukungan seputar rekayasa sosial, bantuan dalam pemecahan masalah kesalahan, pengembangan .NET, dan cara-cara yang dapat digunakan penyerang untuk menghindari deteksi ketika berada di mesin yang disusupi.
Charcoal Typhoon (CHROMIUM)
Microsoft mengungkap kelompok hacker ini berafiliasi dengan China dan sebagian besar berfokus pada pelacakan kelompok-kelompok di Taiwan, Thailand, Mongolia, Malaysia, Prancis, Nepal, dan individu-individu di seluruh dunia yang menentang kebijakan China.
Dalam operasi baru-baru ini, Charcoal Typhoon melibatkan LLM untuk mendapatkan wawasan dalam penelitian guna memahami teknologi, platform, dan kerentanan tertentu, yang mengindikasikan tahap pengumpulan informasi awal.
Kelompok lain yang didukung oleh China, Salmon Typhoon, telah menilai efektivitas penggunaan LLM sepanjang tahun 2023 untuk mendapatkan informasi tentang topik-topik yang berpotensi sensitif, individu berprofil tinggi, geopolitik regional, pengaruh AS, dan urusan dalam negeri.
Lalu, bisakah menangkal ancaman siber yang kian canggih dengan bantuan AI ini?
Ancaman Global 10 Tahun ke Depan (Foto: Basith Subastian/CNNIndonesia)
Cara Microsoft tangkal serangan hacker di halaman selanjutnya...
Microsoft mendeteksi traffic atau lalu lintas internet berbahaya dalam jumlah yang sangat besar, lebih dari 65 triliun sinyal keamanan siber per hari.
AI meningkatkan kemampuan mereka untuk menganalisis informasi ini dan memastikan wawasan yang paling berharga muncul untuk membantu menghentikan ancaman.
"Kami juga menggunakan kecerdasan sinyal ini untuk mendukung AI Generatif untuk perlindungan ancaman tingkat lanjut, keamanan data, dan keamanan identitas guna membantu para pembela HAM menangkap apa yang terlewatkan oleh pihak lain," ungkap Microsoft.
Microsoft menggunakan beberapa metode untuk melindungi diri dan pelanggan dari ancaman siber, termasuk deteksi ancaman yang diaktifkan oleh AI untuk menemukan perubahan dalam cara sumber daya atau lalu lintas di jaringan digunakan.
Contohnya, analisis perilaku untuk mendeteksi proses masuk yang berisiko dan perilaku anomali; model pembelajaran mesin (machine learning) untuk mendeteksi proses masuk yang berisiko dan malware.
Kemudian, model Zero Trust di mana setiap permintaan akses harus sepenuhnya diautentikasi, diotorisasi, dan dienkripsi; serta verifikasi kesehatan perangkat sebelum perangkat dapat terhubung ke jaringan perusahaan.
Menurut Microsoft, titik-titik rawan untuk hal ini termasuk area-area seperti uji coba gratis atau harga promosi layanan atau produk.
Di area ini, tidak menguntungkan bagi penyerang untuk mencuri satu persatu pelanggan Microsoft, sehingga mereka berusaha untuk mengoperasionalkan dan meningkatkan serangan tersebut tanpa terdeteksi.
"Secara otomatis, kami membangun model AI untuk mendeteksi serangan-serangan ini untuk Microsoft dan pelanggan kami."
"Kami mendeteksi siswa dan akun sekolah palsu, perusahaan atau organisasi palsu yang telah mengubah data perusahaan mereka atau menyembunyikan identitas asli mereka untuk menghindari sanksi, menghindari kontrol, atau menyembunyikan pelanggaran kriminal di masa lalu seperti hukuman korupsi, upaya pencurian, dan lainnya," jelas Microsoft.
Penggunaan GitHub Copilot, Microsoft Copilot for Security, dan fitur obrolan copilot lainnya yang terintegrasi ke dalam infrastruktur teknis dan operasi internal kami dapat membantu mencegah insiden yang dapat berdampak pada operasi.
Untuk mengatasi ancaman email, Microsoft meningkatkan kemampuan untuk mendapatkan sinyal selain komposisi email untuk memahami apakah email tersebut berbahaya.
Dengan memakai AI, pelaku ancaman siber meningkatkan jumlah email yang ditulis dengan sempurna tanpa kesalahan tata bahasa yang jelas yang sering terjadi pada modus phishing.
"Microsoft mengantisipasi AI akan berevolusi dalam taktik rekayasa sosial, menciptakan serangan yang lebih canggih termasuk deepfake dan kloning suara, terutama jika penyerang menemukan teknologi AI yang beroperasi tanpa praktik yang bertanggung jawab dan kontrol keamanan bawaan," ujar Microsoft.
"Pencegahan adalah kunci untuk memerangi semua ancaman siber, baik yang tradisional maupun yang menggunakan AI," pungkas perusahaa.
Microsoft mengungkap para hacker dari berbagai negara mulai memanfaatkan teknologi kecerdasan buatan (AI) untuk melancarkan serangan siber. Bisakah serangan siber yang semakin canggih ini ditangkal?
Microsoft, dalam laporan 'Navigating Cyberthreats and Strengthening Defenses in the Era of AI', mengungkap Lanskap ancaman siber telah menjadi lebih menantang karena para penjahat yang semakin termotivasi, semakin canggih, dan memiliki sumber daya yang lebih baik.
Pelaku ancaman dan pihak yang bertahan sama-sama melirik AI, termasuk large language model (LLM), untuk meningkatkan produktivitas mereka dan memanfaatkan platform yang dapat diakses yang sesuai dengan tujuan dan teknik serangan mereka.
"Meskipun motif dan kecanggihan pelaku ancaman berbeda-beda, mereka memiliki tugas yang sama saat melancarkan serangan," kata Microsoft dalam laporannya, Selasa (20/2).
"Tugas-tugas tersebut meliputi pengintaian, seperti meneliti industri, lokasi, dan hubungan calon korban; pengkodean, termasuk meningkatkan skrip perangkat lunak dan pengembangan malware; dan bantuan untuk mempelajari dan menggunakan bahasa manusia dan mesin," lanjut keterangan itu.
Merespons hal tersebut, Microsoft bersama OpenAI dan sejumlah negara kemudian mengidentifikasi berbagai ancaman intelejen dari berbagai negara yang menggunakan AI.
Keterlibatan tentatif dengan LLM ini dapat mencerminkan perluasan perangkat pengumpulan intelijen dan fase eksperimental dalam menilai kemampuan teknologi yang sedang berkembang.
Microsoft, dalam laporannya, juga mengungkap modus penipuan yang memanfaatkan AI. Sintesis suara adalah salah satu contohnya. Teknologi saat ini cukup memakai bahan sampel suara selama tiga detik buat melatih model AI untuk terdengar seperti siapa pun.
Bahkan, sesuatu yang tidak berbahaya seperti sapaan pesan suara Anda dapat digunakan untuk mendapatkan sampel yang memadai.
Sebagian besar cara kita berinteraksi satu sama lain dan menjalankan bisnis bergantung pada pemeriksaan identitas, seperti mengenali suara, wajah, alamat email, atau gaya penulisan seseorang.
Berikut daftar kelompok hacker yang menggunakan AI dan bahayanya:
Forest Blizzard (STRONTIUM)
Microsoft menyebut aktor intelijen militer Rusia yang sangat efektif ini terkait dengan Direktorat Utama Staf Umum Angkatan Bersenjata Rusia atau GRU Unit 26165. Mereka telah menargetkan korban yang memiliki kepentingan taktis dan strategis bagi pemerintah Rusia.
Kegiatannya menjangkau berbagai sektor termasuk pertahanan, transportasi/logistik, pemerintah, energi, LSM, dan teknologi informasi.
Emerald Sleet (Velvet Chollima)
kelompok hacker dari Korea Utara yang ditemukan Microsoft menyamar sebagai lembaga akademik dan LSM terkemuka untuk memikat korban agar memberikan tanggapan dan komentar ahli tentang kebijakan luar negeri yang terkait dengan Korea Utara.
Penggunaan LLM oleh Emerald Sleet melibatkan penelitian terhadap lembaga think tank dan pakar mengenai Korea Utara, serta pembuatan konten yang kemungkinan besar akan digunakan dalam kampanye spear phishing.
Emerald Sleet juga berhubungan dengan LLM untuk memahami kerentanan yang diketahui publik, memecahkan masalah teknis, dan untuk mendapatkan bantuan dalam menggunakan berbagai teknologi web.
Crimson Sandstorm (CURIUM)
Microsoft mengungkap ini adalah kelompok hacker dari Iran yang dinilai memiliki hubungan dengan Korps Garda Revolusi Islam.
Penggunaan LLM telah melibatkan berbagai permintaan dukungan seputar rekayasa sosial, bantuan dalam pemecahan masalah kesalahan, pengembangan .NET, dan cara-cara yang dapat digunakan penyerang untuk menghindari deteksi ketika berada di mesin yang disusupi.
Charcoal Typhoon (CHROMIUM)
Microsoft mengungkap kelompok hacker ini berafiliasi dengan China dan sebagian besar berfokus pada pelacakan kelompok-kelompok di Taiwan, Thailand, Mongolia, Malaysia, Prancis, Nepal, dan individu-individu di seluruh dunia yang menentang kebijakan China.
Dalam operasi baru-baru ini, Charcoal Typhoon melibatkan LLM untuk mendapatkan wawasan dalam penelitian guna memahami teknologi, platform, dan kerentanan tertentu, yang mengindikasikan tahap pengumpulan informasi awal.
Kelompok lain yang didukung oleh China, Salmon Typhoon, telah menilai efektivitas penggunaan LLM sepanjang tahun 2023 untuk mendapatkan informasi tentang topik-topik yang berpotensi sensitif, individu berprofil tinggi, geopolitik regional, pengaruh AS, dan urusan dalam negeri.
Lalu, bisakah menangkal ancaman siber yang kian canggih dengan bantuan AI ini?
Ancaman Global 10 Tahun ke Depan (Foto: Basith Subastian/CNNIndonesia)
Cara Microsoft tangkal serangan hacker di halaman selanjutnya...
Cara Tangkal Serangan Siber AI
Ilustrasi. AI terbukti sudah dipakai untuk penipuan, termasuk deepfake video maupun suara. (Foto: REUTERS/DADO RUVIC)
Microsoft mendeteksi traffic atau lalu lintas internet berbahaya dalam jumlah yang sangat besar, lebih dari 65 triliun sinyal keamanan siber per hari.
AI meningkatkan kemampuan mereka untuk menganalisis informasi ini dan memastikan wawasan yang paling berharga muncul untuk membantu menghentikan ancaman.
"Kami juga menggunakan kecerdasan sinyal ini untuk mendukung AI Generatif untuk perlindungan ancaman tingkat lanjut, keamanan data, dan keamanan identitas guna membantu para pembela HAM menangkap apa yang terlewatkan oleh pihak lain," ungkap Microsoft.
Microsoft menggunakan beberapa metode untuk melindungi diri dan pelanggan dari ancaman siber, termasuk deteksi ancaman yang diaktifkan oleh AI untuk menemukan perubahan dalam cara sumber daya atau lalu lintas di jaringan digunakan.
Contohnya, analisis perilaku untuk mendeteksi proses masuk yang berisiko dan perilaku anomali; model pembelajaran mesin (machine learning) untuk mendeteksi proses masuk yang berisiko dan malware.
Kemudian, model Zero Trust di mana setiap permintaan akses harus sepenuhnya diautentikasi, diotorisasi, dan dienkripsi; serta verifikasi kesehatan perangkat sebelum perangkat dapat terhubung ke jaringan perusahaan.
Menurut Microsoft, titik-titik rawan untuk hal ini termasuk area-area seperti uji coba gratis atau harga promosi layanan atau produk.
Di area ini, tidak menguntungkan bagi penyerang untuk mencuri satu persatu pelanggan Microsoft, sehingga mereka berusaha untuk mengoperasionalkan dan meningkatkan serangan tersebut tanpa terdeteksi.
"Secara otomatis, kami membangun model AI untuk mendeteksi serangan-serangan ini untuk Microsoft dan pelanggan kami."
"Kami mendeteksi siswa dan akun sekolah palsu, perusahaan atau organisasi palsu yang telah mengubah data perusahaan mereka atau menyembunyikan identitas asli mereka untuk menghindari sanksi, menghindari kontrol, atau menyembunyikan pelanggaran kriminal di masa lalu seperti hukuman korupsi, upaya pencurian, dan lainnya," jelas Microsoft.
Penggunaan GitHub Copilot, Microsoft Copilot for Security, dan fitur obrolan copilot lainnya yang terintegrasi ke dalam infrastruktur teknis dan operasi internal kami dapat membantu mencegah insiden yang dapat berdampak pada operasi.
Untuk mengatasi ancaman email, Microsoft meningkatkan kemampuan untuk mendapatkan sinyal selain komposisi email untuk memahami apakah email tersebut berbahaya.
Dengan memakai AI, pelaku ancaman siber meningkatkan jumlah email yang ditulis dengan sempurna tanpa kesalahan tata bahasa yang jelas yang sering terjadi pada modus phishing.
"Microsoft mengantisipasi AI akan berevolusi dalam taktik rekayasa sosial, menciptakan serangan yang lebih canggih termasuk deepfake dan kloning suara, terutama jika penyerang menemukan teknologi AI yang beroperasi tanpa praktik yang bertanggung jawab dan kontrol keamanan bawaan," ujar Microsoft.
"Pencegahan adalah kunci untuk memerangi semua ancaman siber, baik yang tradisional maupun yang menggunakan AI," pungkas perusahaa.
Ancaman Global 10 Tahun ke Depan (Foto: Basith Subastian/CNNIndonesia)