การทำให้เป็นมาตรฐาน l1 ทำงานอย่างไร

สารบัญ:

การทำให้เป็นมาตรฐาน l1 ทำงานอย่างไร
การทำให้เป็นมาตรฐาน l1 ทำงานอย่างไร
Anonim

การทำให้ข้อกำหนดบทลงโทษเป็นมาตรฐานทำงานโดยให้น้ำหนักข้อมูลกับค่าเฉพาะ (เช่น ค่าเล็กน้อยใกล้ศูนย์) … การทำให้เป็นมาตรฐาน L1 เพิ่มโทษ L1 เท่ากับค่าสัมบูรณ์ของขนาดของสัมประสิทธิ์ กล่าวอีกนัยหนึ่ง มันจำกัดขนาดของสัมประสิทธิ์

การทำให้เป็นมาตรฐาน L1 และ L2 ทำงานอย่างไร

ความแตกต่างหลักระหว่างการทำให้เป็นมาตรฐาน L1 และ L2 คือ L1 การทำให้เป็นมาตรฐาน พยายามประมาณค่ามัธยฐานของข้อมูล ในขณะที่การทำให้เป็นมาตรฐาน L2 พยายามประมาณค่าเฉลี่ยของข้อมูลเป็น หลีกเลี่ยงการสวมใส่มากเกินไป … ค่านั้นจะเป็นค่ามัธยฐานของการกระจายข้อมูลในทางคณิตศาสตร์ด้วย

การทำให้เป็นมาตรฐาน L1 หรือ L2 ดีกว่าไหม

จากมุมมองเชิงปฏิบัติ L1 มีแนวโน้มที่จะลดค่าสัมประสิทธิ์เป็นศูนย์ ในขณะที่ L2 มีแนวโน้มที่จะลดค่าสัมประสิทธิ์อย่างเท่าเทียมกัน ดังนั้น L1 จึงมีประโยชน์สำหรับการเลือกคุณลักษณะ เนื่องจากเราสามารถปล่อยตัวแปรใดๆ ที่เกี่ยวข้องกับสัมประสิทธิ์ที่ไปที่ศูนย์ได้ ในทางกลับกัน L2 จะมีประโยชน์เมื่อคุณมีคุณสมบัติ collinear/codependent

Regularizer ทำงานอย่างไร

การทำให้เป็นมาตรฐานทำงานโดย เพิ่มโทษหรือเงื่อนไขความซับซ้อนหรือระยะเวลาการหดตัวด้วยผลรวมที่เหลือของกำลังสอง (RSS) ให้กับโมเดลที่ซับซ้อน β0, β1, ….. β หมายถึงค่าประมาณสัมประสิทธิ์สำหรับตัวแปรหรือตัวทำนายที่แตกต่างกัน (X) ซึ่งอธิบายน้ำหนักหรือขนาดที่แนบมากับคุณลักษณะตามลำดับ

การทำให้เป็นมาตรฐาน L1 ลดการโอเวอร์ฟิตติ้งได้อย่างไร

L1 Regularization หรือที่รู้จักในชื่อ L1 norm หรือ Lasso (ในปัญหาการถดถอย) การต่อสู้ overfitting โดยลดพารามิเตอร์ลงเหลือ 0

แนะนำ:

บทความที่น่าสนใจ
วิตกกังวลกับวิตกกังวลเป็นสิ่งเดียวกันหรือไม่?
อ่านเพิ่มเติม

วิตกกังวลกับวิตกกังวลเป็นสิ่งเดียวกันหรือไม่?

และแม้ว่าความรู้สึกวิตกกังวลอาจไม่เป็นที่ต้อนรับเสมอไป แต่ก็เป็นเรื่องที่ดีต่อสุขภาพและเป็นเรื่องปกติ และสามารถช่วยให้เรามีสมาธิจดจ่อหรือตัดสินใจได้ดีขึ้น ในขณะที่ ความรู้สึกวิตกกังวลและวิตกกังวลในเบื้องต้นอาจเหมือนเดิม ผู้ที่เป็นโรควิตกกังวลมักจะวิตกกังวลอยู่ตลอดเวลา วิตกกังวลไม่วิตกกังวลได้ไหม แม้ว่าจะมีความคล้ายคลึงกันระหว่างความรู้สึก “ปกติ” ที่วิตกกังวลกับโรควิตกกังวล แต่ก็ไม่เหมือนกัน ความวิตกกังวลตามปกติมักเกิดขึ้นในระยะสั้นและเกี่ยวข้องกับแรงกดดัน ไม่ก่อให้เกิด

ใครเป็นโรคกลัวสุนัข?
อ่านเพิ่มเติม

ใครเป็นโรคกลัวสุนัข?

Cynophobia ‌คือความกลัวสุนัข เช่นเดียวกับโรคกลัวเฉพาะอื่นๆ โรคไซโนโฟเบียนั้นรุนแรง ดื้อดึง และไม่มีเหตุผล อะไรทำให้เกิดความกลัวสุนัข เช่นเดียวกับโรคกลัวสัตว์ทั่วไป ความกลัวสุนัขมักเกิดจาก ประสบการณ์เชิงลบกับสุนัข โดยเฉพาะในช่วงวัยเด็ก ทั้งเด็กและสุนัขต่างก็อยากรู้อยากเห็นโดยธรรมชาติ และคุณอาจถูกลูกสุนัขที่ตื่นเต้นเร้าใจกระโดดขึ้นไปบนหรือถูกสุนัขเฝ้าบ้านตัวใหญ่คำรามเมื่อคุณเข้าใกล้รั้ว ไซโนโฟเบียสามารถรักษาให้หายขาดได้หรือไม่ ไซโนโฟเบียรักษาได้มาก และผู้ที่อุทิศต

แอนดี้กิบบ์ตายปีอะไร?
อ่านเพิ่มเติม

แอนดี้กิบบ์ตายปีอะไร?

Andrew Roy Gibb เป็นนักร้อง นักแต่งเพลง และนักแสดงชาวอังกฤษ เขาเป็นน้องชายของ Bee Gees: Barry, Robin และ Maurice Gibb Andy Gibb แต่งงานกับ Victoria Principal หรือไม่ อาจารย์ใหญ่มีความสัมพันธ์ที่ดีกับนักร้อง-นักแต่งเพลงชาวอังกฤษ Andy Gibb … พวกเขาแต่งงานกันเมื่อวันที่ 22 มิถุนายน พ.