Regularizers อนุญาตให้คุณใช้บทลงโทษกับพารามิเตอร์เลเยอร์หรือกิจกรรมของเลเยอร์ในระหว่างการปรับให้เหมาะสม บทลงโทษเหล่านี้จะรวมอยู่ในฟังก์ชันการสูญเสียที่เครือข่ายปรับให้เหมาะสม การปรับให้เป็นมาตรฐานจะใช้แบบต่อชั้น
ตัวกำหนดกิจกรรมคืออะไร
ตัวปรับกิจกรรมจะทำงาน เป็นหน้าที่ของสัญญาณออกของเน็ต และส่วนใหญ่จะใช้เพื่อทำให้หน่วยที่ซ่อนเป็นปกติ ในขณะที่ weight_regularizer ทำงานตามชื่อเรียก (เช่น ทำให้เน่าเปื่อย)
ฉันควรใช้ตัวปรับกิจกรรมปกติเมื่อใด
หากคุณต้องการให้ฟังก์ชันเอาต์พุตส่งผ่าน (หรือมีการสกัดกั้นใกล้กับจุดกำเนิด) คุณสามารถใช้ตัวปรับความเอนเอียงได้ หากคุณต้องการให้เอาต์พุตมีขนาดเล็กลง (หรือใกล้กับ 0) คุณสามารถใช้ตัวปรับกิจกรรมได้
ฉันจะใช้ Keras Regularizer ได้อย่างไร
ในการเพิ่มตัวกำหนดมาตรฐานให้กับเลเยอร์ คุณเพียงแค่มี เพื่อส่งผ่านเทคนิคการทำให้เป็นมาตรฐานที่ต้องการไปยังอาร์กิวเมนต์คำหลักของเลเยอร์ 'kernel_regularizer' วิธีการปรับใช้การทำให้เป็นมาตรฐานของ Keras สามารถจัดเตรียมพารามิเตอร์ที่แสดงถึงค่าไฮเปอร์พารามิเตอร์การทำให้เป็นมาตรฐาน
เคอร์เนลและอคติคืออะไร
Dense class
Dense ใช้การดำเนินการ: output=enable(dot(input, kernel) + bias) โดยที่การเปิดใช้งานเป็นฟังก์ชันการเปิดใช้งานแบบองค์ประกอบที่ส่งผ่านเป็นอาร์กิวเมนต์การเปิดใช้งาน เคอร์เนลเป็นเมทริกซ์น้ำหนักที่สร้างโดยเลเยอร์ และbias เป็นเวกเตอร์อคติที่สร้างโดยเลเยอร์ (ใช้ได้เฉพาะเมื่อ use_bias เป็นจริง)
