NIST เตือนภัยวิธีการแฮ็ก AI ที่อาจมาล้วงข้อมูลผู้ใช้ได้

บทความน่าสนใจ

Loading

  สถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐอเมริกา (NIST) พบว่าวิธีการโจมตีที่เรียกว่า Prompt Injection สามารถนำไปแฮ็ก AI เชิงสังเคราะห์ (GenAI) อย่าง ChatGPT ได้   NIST แบ่ง Prompt Injection เป็น 2 แบบ แบบแรกคือทางตรง (Direct Prompt Injection) เป็นการที่ผู้ใช้งานป้อนพรอมต์ (prompt) หรือคำสั่งไปยังตัว AI ด้วยข้อความที่ทำให้ AI ทำงานในแบบที่มันไม่ควรจะทำหรือไม่ได้รับอนุญาต   แบบที่ 2 คือแบบทางอ้อม (Indirect Prompt Injection) ซึ่งเน้นพุ่งเป้าทำลายหรือสร้างความเสียหายต่อข้อมูลที่ตัว AI ดึงมาใช้ในสร้างข้อมูลใหม่   Direct Prompt Injection หนึ่งในวิธีทางตรงที่ NIST บอกว่าเป็นที่รู้จักมากที่สุดคือ DAN หรือ Do Anything Now คือการที่ผู้ใช้สวมบทให้กับตัว…

Microsoft ห้ามตำรวจสหรัฐฯ ใช้ AI สำหรับจดจำใบหน้า ห่วงสร้างข้อมูลบิดเบือน

ข่าวประจำวัน, สถานการณ์ไซเบอร์

Loading

Microsoft ห้ามหน่วยงานตำรวจในสหรัฐอเมริกาใช้เทคโนโลยีปัญญาประดิษฐ์เพื่อการจดจำใบหน้า ผ่านบริการ Azure OpenAI Service ซึ่งเป็นบริการที่ให้บริษัทต่างๆ สามารถนำเทคโนโลยีของ OpenAI ไปใช้งานได้

เปิด 6 วิธีรอดจาก ‘แก๊งคอลเซ็นเตอร์’ ที่ใช้ AI ปลอมเสียง

บทความน่าสนใจ

Loading

ปัจจุบันเหล่าบรรดาแฮ็กเกอร์เริ่มพัฒนาการโคลนเสียงมนุษย์โดยใช้ AI เพื่อหลอกล่อและฉ้อโกงทางการเงินกับเหยื่อโดยการทำให้คิดว่ากำลังพูดคุยกับคนที่รู้จักทางโทรศัพท์ ซึ่งจริงๆ แล้วเป็นการพูดคุยกับคอมพิวเตอร์

แฮ็กเกอร์กลุ่ม TA547 ใช้แชตบอต AI สร้างมัลแวร์โจมตีบริษัทเยอรมนี

Uncategorized, บทความน่าสนใจ

Loading

ภัยคุกคาม ยุคดิจิทัล คงหนีไม่พ้นอาชญากรรมทางไซเบอร์ที่ใช้แชตบอตเอไอสร้างมัลแวร์เพื่อโจมตีบริษัท ทาง OpenAI และหน่วยงานความปลอดภัยของไมโครซอฟท์ เคยออกมาประกาศว่า แฮกเกอร์ที่หวังโจมตีทางไซเบอร์ เมื่อประยุกต์ใช้เครื่องมือเอไอ ทำให้มีโอกาสประสบความสำเร็จมากขึ้น

New York Times ระบุ OpenAI ดูดวิดีโอ YouTube กว่าล้านชั่วโมงไปแปลงเป็นข้อความฝึก AI

ข่าวประจำวัน, สถานการณ์ไซเบอร์

Loading

New York Times อ้างแหล่งข่าวไม่เปิดเผยตัว 3 คน ระบุว่า OpenAI ดูดวิดีโอ YouTube มากกว่าล้านชั่วโมงเพื่อไปฝึก GPT-4 แม้ว่าทีมงานภายในจะมีความกังวลว่า การทำเช่นนี้จะเป็นการละเมิดข้อตกลงการใช้งานของ YouTube

“เมื่อ AI เข้าสภา”

บทความน่าสนใจ

Loading

  คลิปที่แชร์กันมากเมื่อสองสัปดาห์ก่อน เป็นการอภิปรายเกี่ยวกับ AI ในรัฐสภาสิงคโปร์ ซึ่งเป็นช่วงที่ผมเขียนเรื่อง AI ลงในคอลัมน์นี้พอดี วันนี้เลยขอต่อเรื่องนี้ครับ   หลังจากที่ ChatGPT เข้ามาสั่นสะเทือนโลกเมื่อปลายปี 2565 แล้ว ไม่กี่เดือนต่อมา   ก็มีเวอร์ชันใหม่ ๆ ตามมา ซึ่งเป็น AI ที่มีความสามารถเพิ่มขึ้นอย่างมาก   คลิปที่แชร์กัน มีความยาวเพียง 4 นาที เนื้อหาคือ ส.ส. สิงคโปร์คนหนึ่งได้อภิปรายว่า AI   รุ่นใหม่ ๆ ที่จะออกมาในอนาคตอันใกล้ จะทำให้สั่นสะท้านสังคมมนุษย์มากยิ่งขึ้น   ตัวอย่างเช่นคาดกันว่าภายในปีนี้ OpenAI ซึ่งเป็นเจ้าของ ChatGPT จะนำเสนอ “SORA” ที่มีความสามารถในการ เปลี่ยนภาษาเขียน คือ ตัวหนังสือธรรมดาๆ นี่แหละ ให้เป็นวิดีโอได้ด้วย แถมยังคาดหวังกันว่า คุณภาพของวิดีโอที่ได้ออกมานั้น จะอยู่ในระดับภาพยนต์ฮอลลีวู้ดเลยทีเดียว   ที่น่ากลัวอีกเรื่องหนึ่งก็คือเทคโนโลยี…