ความเสี่ยงที่อาจเกิดขึ้นจากการใช้ GenAI ในธุรกิจ

ในบทความของ Computerworld ดร. คาร์ลอส เซเกดะ (Carlos Sequeda) นักวิจัยจากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ ระบุว่า GenAI มักใช้สำหรับงานต่างๆ เช่น การสร้างเนื้อหา แปลภาษา และตอบคำถาม แต่มีความแม่นยำต่ำ และมีความโปร่งใสน้อยลง เมื่อเวลาผ่านไป ตัวอย่างเช่น งานวิจัยของ Sequeda พบว่า GenAI สามารถสร้างข้อความที่ผิดพลาดได้ 30% เมื่อใช้สำหรับการสร้างเนื้อหา งานแปลภาษาของ GenAI ก็มีความแม่นยำต่ำกว่าเครื่องมือแปลภาษาอื่นๆ และ GenAI ไม่สามารถอธิบายได้อย่างชัดเจนว่า ทำไมจึงสร้างข้อความ หรือคำแปลบางอย่างออกมา Sequeda เตือนว่า หากองค์กรใดใช้ GenAI โดยไม่ให้ความสำคัญกับความแม่นยำ องค์กรนั้นอาจประสบปัญหาต่างๆ เช่น สูญเสียข้อมูล ความผิดพลาดในกระบวนการตัดสินใจ และความเสียหายต่อชื่อเสียง องค์กรควรพิจารณาปัจจัยต่อไปนี้ก่อนใช้ GenAI ความแม่นยำของโมเดล
  • ความแม่นยำต่ำของ GenAI เกิดจากหลายปัจจัย เช่น ปริมาณข้อมูลที่ใช้ฝึกอบรมโมเดล ความซับซ้อนของงานที่ต้องการให้โมเดลทำ และอคติที่มีอยู่ในตัวข้อมูลที่ใช้ฝึกอบรม
  • งานวิจัยของ Sequeda พบว่า GenAI สามารถสร้างข้อความที่ผิดพลาดได้ 30% เมื่อใช้สำหรับการสร้างเนื้อหา โดยข้อความที่ผิดพลาดส่วนใหญ่เกิดจากการที่ GenAI เข้าใจข้อความต้นฉบับไม่ถูกต้อง หรือสร้างข้อความที่ขัดแย้งกับความรู้ทั่วไป
  • งานแปลภาษาของ GenAI ก็มีความแม่นยำต่ำกว่าเครื่องมือแปลภาษาอื่นๆ เช่น Google Translate โดยงานวิจัยของ Sequeda พบว่า GenAI แปลข้อความภาษาอังกฤษเป็นภาษาสเปนได้อย่างถูกต้องเพียง 70%
ความโปร่งใสของโมเดล
  • ความโปร่งใสของ GenAI น้อยลงเมื่อเวลาผ่านไป เนื่องจากโมเดลภาษาขนาดใหญ่มักใช้เทคนิคการเรียนรู้ของเครื่องที่ซับซ้อน ซึ่งทำให้ยากต่อการอธิบายว่าโมเดลตัดสินใจสร้างข้อความหรือคำแปลบางอย่างออกมาอย่างไร
  • Sequeda ระบุว่า GenAI ไม่สามารถอธิบายได้อย่างชัดเจนว่าทำไมจึงสร้างข้อความหรือคำแปลบางอย่างออกมา ซึ่งทำให้องค์กรไม่สามารถตรวจสอบความถูกต้องของผลลัพธ์ของโมเดลได้
วัตถุประสงค์ในการใช้งาน
  • องค์กรควรกำหนดวัตถุประสงค์ในการใช้งาน GenAI อย่างชัดเจน เช่น จะใช้สำหรับงานใด จะใช้เพื่อสร้างผลลัพธ์ประเภทใด
ความเสี่ยงที่อาจเกิดขึ้น
  • หากองค์กรใดใช้ GenAI โดยไม่ให้ความสำคัญกับความแม่นยำ อาจประสบปัญหาต่างๆ เช่น สูญเสียข้อมูล ความผิดพลาดในกระบวนการตัดสินใจ และความเสียหายต่อชื่อเสียง
องค์กรควรมีแนวทางปฏิบัติที่ดีในการใช้ GenAI เช่น การตรวจสอบความแม่นยำของโมเดลอย่างสม่ำเสมอ การกำกับดูแลการใช้งานของโมเดล และการใช้โมเดลอย่างระมัดระวัง