#Нейросети

Энтропия, Information Gain и Cross-Entropy: одна формула

Энтропия Шеннона, Information Gain в деревьях и cross-entropy loss в нейросетях — это одна формула 1948 года. Разбираем связь с примерами и кодом.