จะเกิดอะไรขึ้นหากแฮ็กเกอร์พยายามทำให้อัลกอริธึมปัญญาประดิษฐ์ยุ่งเหยิง

ประสบการณ์การฟังที่ดีที่สุดอยู่บน Chrome, Firefox หรือ Safari สมัครรับเสียงสัมภาษณ์ประจำวันของ Federal Drive ใน  Apple Podcasts  หรือ  PodcastOneปัญญาประดิษฐ์อาจเป็นสิ่งที่ยิ่งใหญ่ที่สุดตั้งแต่ครึ่งใบ แต่ซอฟต์แวร์ของมัน และนั่นหมายความว่าสามารถถูกแฮ็กได้ นั่นเป็นข้อกังวลสำหรับหน่วยงานโครงการวิจัยขั้นสูงของกลาโหม DARPA ได้เปิดตัวโครงการเพื่อพัฒนาการป้องกันความเป็นไปได้ดังกล่าว เรียกว่าการรับประกันความทนทานของ AI ต่อการหลอกลวงหรือ GARD สำหรับข้อมูลเพิ่มเติม Dr. Bruce Draper ผู้จัดการโปรแกรม GARD ได้เข้าร่วมFederal Drive กับ Tom Temin

ค้นหาว่าเหตุใดการจัดการสายธารคุณค่าจึงได้รับความนิยม

ในฐานะกรอบงานสำหรับการวัดมูลค่าในสภาพแวดล้อม DevSecOpsBruce Draper:ดีใจที่ได้มาที่นี่Tom Temin:เรามาเริ่มกันที่ภัยคุกคามคืออะไร สิ่งที่สามารถทำได้กับโปรแกรมประดิษฐ์หรือโปรแกรมการเรียนรู้ของเครื่องที่คุณไม่ต้องการให้เกิดขึ้น

Bruce Draper:คุณรู้ไหม มันตลกจริงๆ เพราะโปรแกรมแมชชีนเลิร์นนิงพัฒนาไปไกลในช่วง 10 ปีที่ผ่านมา และพวกเขาก็มีพลังมาก เราสามารถฝึกพวกเขาให้ทำทุกสิ่งได้ แต่กลับกลายเป็นว่าพวกเขามักจะถูกหลอกโดยการเปลี่ยนแปลงเพียงเล็กน้อยที่จะส่งผลกระทบต่อคุณหรือฉัน ตัวอย่างเช่น หากคุณคิดถึงโปรแกรมคอมพิวเตอร์วิทัศน์ที่จดจำวัตถุในภาพ โปรแกรมดังกล่าวสามารถจดจำวัตถุนั้นได้ทั้งหมด ชนิดของเงื่อนไขและมาตราส่วนและสภาพแสง แต่กลับกลายเป็นว่า บางครั้งหากคุณปรับแต่งพิกเซลเพียงเล็กน้อยโดยที่คุณหรือฉันไม่ทันสังเกต มันจะทำให้ระบบ AI สร้างผลลัพธ์ที่ไม่ถูกต้อง และเราเรียกการโจมตีจากฝ่ายตรงข้าม และสิ่งที่เรากังวล

Tom Temin:กล่าวอีกนัยหนึ่ง มันไม่ใช่การโจมตีโค้ดอัลกอริทึม แต่คุณกำลังป้อนอัลกอริทึมอะไร และถ้ามีคนรู้ว่ามันพยายามทำอะไร คุณก็จะรู้วิธีที่จะหลอกมันได้ หรืออีกนัยหนึ่งก็คือ

บรูซ เดรเปอร์:ถูกต้อง มันเหมือนกับลายพรางสำหรับเครื่องจักร และที่น่าสนใจคือสิ่งที่คุณเป็น ฉันไม่เคยนึกถึงหรือสังเกตเลย

Tom Temin:ใช่ เพราะนั่นทำให้นึกถึงตัวอย่าง เช่น NGA

 หรือ National Geospatial Intelligence Agency กำลังมองหาการใช้วิชันซิสเต็มจากอวกาศและการดูภาพ และพวกเขากำลังมองหาบางสิ่งที่อาจไม่เป็นธรรมชาติ เช่น สี่เหลี่ยมและวงกลม นั่นก็หมายความว่าในแอปพลิเคชันนั้นๆ อาจมีบางคนสร้างบางอย่างให้เป็นวงกลมที่ไม่ใช่และหลอกโปรแกรมวิชันซิสเต็มได้

Bruce Draper:ใช่แล้ว คุณสามารถทำให้มันคิดว่ามีวัตถุต่างๆ ในโลกที่ไม่ได้อยู่ที่นั่น หรือในทางกลับกัน คุณสามารถซ่อนวัตถุที่อยู่ตรงนั้นได้ และถ้าคุณอยู่ในชุมชนข่าวกรอง ทั้งสองสิ่งนี้เกี่ยวข้องกันอย่างเห็นได้ชัด

Tom Temin:ถ้าอย่างนั้นจริงๆ แล้ว ก็ไม่ใช่ปัญหาความปลอดภัยทางไซเบอร์แบบเดิมๆ ใช่ไหม เนื่องจากสิ่งที่ถูกจัดการอยู่ภายนอกโปรแกรมบรูซ เดรเปอร์:ถูกต้อง ดังนั้น หากคุณนึกถึงความปลอดภัยในโลกไซเบอร์ ในโลกไซเบอร์มีใครบางคนโจมตีระบบปฏิบัติการของคุณผ่านเครือข่ายหรือแอปพลิเคชัน ซึ่งหมายความว่าระบบใด ๆ ก็ตามที่อยู่บนเครือข่ายสามารถเชื่อมต่อได้ ในกรณีนี้จะจำกัดมากขึ้น เฉพาะโปรแกรมแมชชีนเลิร์นนิงเท่านั้นที่ถูกโจมตีด้วยวิธีนี้ แต่โดยทั่วไปแล้ว เนื่องจากโปรแกรมนั้นไม่จำเป็นต้องอยู่บนเว็บเลย เพราะสามารถถูกโจมตีได้ทางอินพุตและเอาต์พุตเท่านั้น

Tom Temin:และเรามีหลักฐานว่าสิ่งนี้เกิดขึ้นจริงหรือไม่?

Bruce Draper: MITER Corporation มีเว็บไซต์ที่ติดตามกรณีที่รู้จักการโจมตีด้วย AI ของฝ่ายตรงข้าม มีไม่มากนัก ไม่แพร่กระจายอย่างกว้างขวางเท่ากับการโจมตีทางไซเบอร์ด้านความปลอดภัยทางไซเบอร์ในขณะนี้ และส่วนใหญ่มักจัดอยู่ในประเภทของการก่อกวนมากกว่าสิ่งที่เป็นอันตรายถึงชีวิต แต่ข้อเท็จจริงที่ว่าพวกมันเริ่มเกิดขึ้นและเกิดขึ้นในสภาพที่ซุกซนเหล่านี้เป็นเรื่องที่น่าเป็นห่วงอย่างเห็นได้ชัด และนั่นหมายถึงก้าวไปข้างหน้า ในขณะที่เราใช้ AI มากขึ้น ทั้งในบริบททางทหารและพลเรือน สิ่งสำคัญคือเราต้องสามารถไว้วางใจระบบเหล่านี้ได้ ดังนั้นคุณจะสามารถปกป้องพวกเขาได้

Credit : สล็อตยูฟ่า / คืนยอดเสีย / เว็บสล็อตออนไลน์