เครื่องมือชั้นดี FBI จับตามิจฉาชีพ ใช้ Gen AI ในทางที่ผิด

Loading

  [ติดปีกโจร] ที่ผ่านมา Generative AI หรือ Gen AI กลายเป็นบริการที่ได้รับความนิยมอย่างมากในหมู่ผู้ใช้อย่างเรา ๆ แต่ขณะเดียวกันก็รวมถึง Cyber Crime หรือผู้ก่ออาชญากรรมทางไซเบอร์ด้วยเช่นกัน จนล่าสุดทาง FBI ออกมาเผยเลยว่า Gen AI กำลังถูกใช้ในทางที่ผิดมากขึ้นเรื่อย ๆ และแนบเนียนมากขึ้นด้วย   Federal Bureau of Investigation หรือ FBI สำนักงานสอบสวนกลางของสหรัฐฯ ได้ออกคำเตือนเกี่ยวกับการใช้เทคโนโลยี Gen AI ในทางที่ผิด พร้อมย้ำเลยว่าเป็นการกระทำที่ผิดกฎหมาย   แต่แม้จะผิดกฎหมาย ปัจจุบันก็ยังพบมิจฉาชีพนำ Gen AI ไปใช้ฉ้อโกงหลายคดี ซึ่งปัจจุบันทำได้อย่างรวดเร็วและมีน่าเชื่อถือมากกว่าเดิม ไม่ว่าจะเป็นการสร้างข้อมูลเท็จ เช่น ข่าว บทความ ไปจนถึงคลิปปลอม สร้างบัญชีโซเชียลมีเดียปลอม สร้างบอทช่วยส่งข้อความ และการสร้างเว็บไซต์ปลอม ที่มีการใช้ Chatbot ช่วยแชร์ลิงค์ กับใช้ AI…

รัฐบาลดิจิทัล (14) : นับถอยหลัง DCBA นวัตกรรมภาครัฐ

Loading

หลายปีก่อนคงจำกันได้ว่า หน่วยงานรัฐแทบทุกแห่งต้องพูดถึงคำว่า Big Data ต่อมาก็พูดถึง Cloud Computing ปีที่แล้ว Blockchain ก็เป็นที่ฮือฮา มาปีนี้ AI กำลังมาแรง คำถามคือ ภาครัฐติดตามนวัตกรรมทางเทคโนโลยีเหล่านี้ได้ทันกาลไหม และนำมาใช้ให้เกิดประโยชน์อย่างไรกันบ้าง

NIST เตือนภัยวิธีการแฮ็ก AI ที่อาจมาล้วงข้อมูลผู้ใช้ได้

Loading

  สถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐอเมริกา (NIST) พบว่าวิธีการโจมตีที่เรียกว่า Prompt Injection สามารถนำไปแฮ็ก AI เชิงสังเคราะห์ (GenAI) อย่าง ChatGPT ได้   NIST แบ่ง Prompt Injection เป็น 2 แบบ แบบแรกคือทางตรง (Direct Prompt Injection) เป็นการที่ผู้ใช้งานป้อนพรอมต์ (prompt) หรือคำสั่งไปยังตัว AI ด้วยข้อความที่ทำให้ AI ทำงานในแบบที่มันไม่ควรจะทำหรือไม่ได้รับอนุญาต   แบบที่ 2 คือแบบทางอ้อม (Indirect Prompt Injection) ซึ่งเน้นพุ่งเป้าทำลายหรือสร้างความเสียหายต่อข้อมูลที่ตัว AI ดึงมาใช้ในสร้างข้อมูลใหม่   Direct Prompt Injection หนึ่งในวิธีทางตรงที่ NIST บอกว่าเป็นที่รู้จักมากที่สุดคือ DAN หรือ Do Anything Now คือการที่ผู้ใช้สวมบทให้กับตัว…

8 หนังสือพิมพ์สหรัฐฟ้อง “โอเพนเอไอ-ไมโครซอฟท์” ปมแชตบอตเอไอ

Loading

บริษัทหนังสือพิมพ์ 8 แห่งของสหรัฐ ยื่นฟ้องบริษัท โอเพนเอไอ และไมโครซอฟท์ ต่อศาลรัฐบาลกลางในนครนิวยอร์ก ฐานละเมิดลิขสิทธิ์เพื่อฝึกฝนเทคโนโลยีที่อยู่เบื้องหลังแชตบอต “แชตจีพีที” และ “โคไพลอต”

งานวิจัยใหม่ ใช้ AI ช่วยหาช่องโหว่ โจมตีผ่านระบบคอมพิวเตอร์

Loading

จะเกิดอะไรขึ้น หากมีการใช้ AI ค้นหา Zero-Day และโจมตี Techhub อยากพาทุกคนมาดูงานวิจัย AI ตัวนึง ที่สามารถค้นหาช่องโหว่ Zero-day ได้ดีกว่าเครื่องมืออื่น ๆ

AntiFake แนวทางป้องกันไม่ให้เสียงของเราถูกเอไอปลอมแปลง

Loading

ที่ผ่านมาเราเคยได้ยินปัญหาการลอกเลียนและปลอมแปลงเสียงจากเอไอกันมาบ้าง ถือเป็นปัญหาที่เกิดขึ้นจากการขยายตัวของเทคโนโลยีปัญญาประดิษฐ์ วันนี้เราจึงพามารู้จักกับ AntiFake แนวทางป้องกันไม่ให้เสียงของเราถูกนำไปใช้ในทางผิดแต่คำถามที่เกิดขึ้นมาพร้อมกัน คือ อันตรายที่อาจจะตามมาจากความก้าวหน้าของปัญญาประดิษฐ์