ทำไม Generative AI ถึงเป็นเครื่องมือช่วยผู้ก่อการร้ายได้?

Loading

ตั้งแต่ปี 2022 เป็นต้นมา AI เชิงสังเคราะห์ (Generative AI – GenAI) พัฒนาอย่างก้าวกระโดด เป็นการปลดล็อกให้ใครก็ตามก็สามารถใช้ AI ได้ง่าย ๆ ไม่เว้นแม้แต่กลุ่มก่อการร้ายที่นำไปใช้ในรูปแบบที่คาดไม่ถึง

NIST เตือนภัยวิธีการแฮ็ก AI ที่อาจมาล้วงข้อมูลผู้ใช้ได้

Loading

  สถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐอเมริกา (NIST) พบว่าวิธีการโจมตีที่เรียกว่า Prompt Injection สามารถนำไปแฮ็ก AI เชิงสังเคราะห์ (GenAI) อย่าง ChatGPT ได้   NIST แบ่ง Prompt Injection เป็น 2 แบบ แบบแรกคือทางตรง (Direct Prompt Injection) เป็นการที่ผู้ใช้งานป้อนพรอมต์ (prompt) หรือคำสั่งไปยังตัว AI ด้วยข้อความที่ทำให้ AI ทำงานในแบบที่มันไม่ควรจะทำหรือไม่ได้รับอนุญาต   แบบที่ 2 คือแบบทางอ้อม (Indirect Prompt Injection) ซึ่งเน้นพุ่งเป้าทำลายหรือสร้างความเสียหายต่อข้อมูลที่ตัว AI ดึงมาใช้ในสร้างข้อมูลใหม่   Direct Prompt Injection หนึ่งในวิธีทางตรงที่ NIST บอกว่าเป็นที่รู้จักมากที่สุดคือ DAN หรือ Do Anything Now คือการที่ผู้ใช้สวมบทให้กับตัว…

คาดการณ์ความปลอดภัยทางไซเบอร์ 2567 เผย AI ช่วยลดช่องว่างทักษะและลดภัยไซเบอร์ได้

Loading

คาดการณ์ความปลอดภัยทางไซเบอร์ 2567 เผยโดย Gartner พบว่าการใช้ Generative AI จะช่วยลดช่องว่างทักษะและลดเหตุความปลอดภัยทางไซเบอร์ที่เกิดโดยพนักงาน โดยที่ 2 ใน 3 ขององค์กร 100 แห่งทั่วโลกจะขยายการประกันภัย D&O ให้กับผู้นำด้านความปลอดภัยทางไซเบอร์ ตามกฎหมายการเปิดเผยข้อมูลส่วนบุคคล และการรับมือกับข้อมูลที่บิดเบือนจะสร้างต้นทุนแก่องค์กรมากกว่า 5 แสนล้านดอลลาร์สหรัฐฯ

2024 : ปีแห่งความเสี่ยงที่ไม่อาจมองข้าม จากเทคโนโลยี ‘เอไอ’ ที่ไม่ถูกควบคุม

Loading

  สัปดาห์นี้มีรายงานเรื่อง ความเสี่ยงของโลกในปี 2024 ที่ระบุว่า ปีนี้จะเป็นปีที่มีความเสี่ยงสูงในหลายด้าน ทั้งเรื่องการเมืองที่จะมีการเลือกตั้งในสหรัฐอเมริกา ปัญหาความขัดแย้งระหว่างประเทศ ปัญหาการเปลี่ยนแปลงสภาพภูมิอากาศ และที่น่าสนใจ คือ ปัญหาเทคโนโลยีเอไอ   สัปดาห์นี้มีรายงานเรื่อง ความเสี่ยงของโลกในปี 2024 ออกมาจากสองค่าย รายงานแรกเป็นของ Eurasia ที่ระบุว่า ปีนี้จะเป็นปีที่มีความเสี่ยงสูงในหลายด้าน ทั้งเรื่องการเมืองที่จะมีการเลือกตั้งในสหรัฐอเมริกา ปัญหาความขัดแย้งระหว่างประเทศ ปัญหาการเปลี่ยนแปลงสภาพภูมิอากาศ และที่น่าสนใจ คือ ปัญหาเทคโนโลยีเอไอที่กำลังพัฒนาเร็วกว่าความสามารถในการกำกับและควบคุมดูแล   ส่วนอีกรายงานที่ออกมาเป็นของ World Economic Forum (WEF) ที่ระบุความเสี่ยงด้านต่าง ๆ ทั้งภูมิรัฐศาสตร์ เศรษฐกิจ สังคม สิ่งแวดล้อม และเทคโนโลยี ทั้งในระยะสั้นในสองปีข้างหน้า และระยะยาวในอีกสิบปี ที่น่าสนใจอย่างยิ่งคือ การบิดเบือนข้อมูลด้วยเทคโนโลยีเอไอ (Misinformation and Disinformation) กลายเป็นหนึ่งในปัญหาสำคัญที่สุดในปีนี้ และขึ้นเป็นอันดับหนึ่งในความเสี่ยงระยะสั้น   WEF ระบุว่า เนื่องด้วยเอไอกลายเป็นเทคโนโลยีที่เข้าถึงได้ง่ายขึ้น ทำให้ผู้คนสามารถสร้างข้อมูลปลอม รวมถึงการใช้เทคโนโลยีอย่าง…

คนไม่ไหว AI ต้องช่วย! ระวังปี 67 ภัยไซเบอร์ล้นมือ (Cyber Weekend)

Loading

  ชัดเจนแล้วว่าแนวโน้มหลักในวงการไซเบอร์ซิเคียวริตีปี 2567 จะต่อยอดจากปี 2566 ทั้งภาวะภัยออนไลน์ที่ส่อแววล้นทะลักยิ่งขึ้นจนมนุษย์ไม่อาจจัดการได้เอง และการยกทัพปัญญาประดิษฐ์ หรือ AI มาช่วยเสริมแกร่งกระบวนการต้านโจรไฮเทค   สถานการณ์แบบนี้ทำให้หลายบริษัทหนักใจกับระบบไซเบอร์ซิเคียวริตีของตัวเอง โดยเฉพาะบริษัทที่ยังใช้งานอุปกรณ์เครือข่ายรุ่นดั้งเดิม ซึ่งอาจใช้งานคนละยี่ห้อหรือมีการแยกกันทำงานเป็นชิ้นเพราะเมื่อทำงานร่วมกันไม่ได้ การสร้างระบบป้องกันภัยไซเบอร์ที่ทำงานอัตโนมัติก็เกิดไม่ได้จึงต้องมีการเพิ่มพนักงานเข้ามาดูแล และสุดท้ายทำให้ไม่สามารถพาตัวเองให้รองรับภัยมหาศาลในปีถัด ๆ ไป แถมยังอาจทำให้เสียต้นทุนโดยใช่เหตุ   ความเสียหายนี้ไม่ใช่เรื่องเล่น ๆ เพราะผลวิจัยบอกว่าเวลาที่ถูกโจมตี บริษัทส่วนใหญ่ใช้เวลาเฉลี่ยกว่า 21 วันในการตรวจสอบพบเจอ แปลว่ากว่าจะได้เริ่มดำเนินการอุดช่องโหว่แฮ็กเกอร์สามารถนำข้อมูลไปทำสิ่งร้ายได้นานหลายสัปดาห์แล้ว ความท้าทายเหล่านี้ทำให้คำว่าการดำเนินงานด้านการรักษาความปลอดภัย (Security Operations) หรือที่คนทั่วโลกเรียกกันว่า SecOps นั้นมีความสำคัญมากขึ้น โดยการสำรวจล่าสุดพบว่า 52% ของบริษัททั่วโลกนั้นมอง SecOps เป็นงานมีความยุ่งยาก และบริษัทในประเทศไทยจำนวนมากยังไม่มี   ***ภัยล้นคนไม่ไหว   รัตติพงษ์ พุทธเจริญ ผู้จัดการอาวุโส ฝ่ายวิศวกรรมระบบ ฟอร์ติเน็ต ประเทศไทย กล่าวถึงผลสำรวจใหม่ที่จัดทำร่วมกับ IDC เกี่ยวกับสถานการณ์การดำเนินงานด้านการรักษาความปลอดภัย ในหัวข้อ The State of…

‘ความเสี่ยงไซเบอร์-เทคฯ’ ความท้าทายใหญ่ แม้ธุรกิจ 60% มอง ‘GenAI’ เป็นโอกาส

Loading

PwC เผยรายงานผลสำรวจพบความเสี่ยงทางไซเบอร์และเทคโนโลยีดิจิทัลเป็นปัญหาสำคัญสำหรับธุรกิจและผู้นำด้านความเสี่ยงในปี 2566 แม้ว่า 60% ของผู้บริหารจะมองว่าเทคโนโลยีเอไอแบบรู้สร้าง (generative AI: GenAI) เป็นโอกาสสำหรับธุรกิจก็ตาม