Bu dersin sonunda öğrenciler; 1) Entropi, bağıl entropi ve etkileşimli bilgiyi öğrenir. 2) Markov zinciri, saklı Markov modellerini öğrenir. 3) Verinin sıkıştırılması, kanal kapasitesini öğrenir. 4) Sıfır-hata kodları, Huffman kodlama, Hamming kodlarını öğrenir. 5) Geri besleme kapasitesi, diferansiyel entropiyi öğrenir. 6) Hız bozulma teorisi, ağ bilgi teorisini öğrenir.
DERSİN VERİLİŞ BİÇİMİ
Yüz Yüze
DERSİN ÖNKOŞULLARI
Yok
ÖNERİLEN DERSLER
Yok
DERS TANIMI
Enformasyon kuramı ve İstatistik ile olan ilişkisi. Haberleşmedeki Shannon kuramı. Belleksiz kaynaklar ve kanallar. Entropi ve enformasyon. Veri sıkıştırma ve güvenli haberleşme için kodlama.
DERS İÇERİĞİ
HAFTA
KONULAR
1. Hafta
Entropi, bağıl entropi ve
etkileşimli bilgi. Entropi hızı.
2. Hafta
Markov zinciri, saklı Markov modelleri.
3. Hafta
Verinin sıkıştırılması.
4. Hafta
Huffman kodlama. Aritmetik Kodlama.
5. Hafta
Kanal kapasitesi. Kanal kodlama teorisi.
6. Hafta
Sıfır-hata kodları.
7. Hafta
Hamming kodları.
8. Hafta
Arasınav
9. Hafta
Geri besleme kapasitesi.
10. Hafta
Diferansiyel entropi
11. Hafta
Gauss kanalı, bantsınırlı kanallar.
12. Hafta
Maksimum entropi ve izgesel kestirim.
13. Hafta
Hız bozulma teorisi.
14. Hafta
Ağ bilgi teorisi.
ZORUNLU YA DA ÖNERİLEN KAYNAKLAR
T. M. Cover (1991), Elements of Information Theory, John Wiley; D.J.C. Mackay (2005), Information Theory, Interference and Learning Algorithms, Cambridge.
ÖĞRETİM YÖNTEM VE TEKNİKLERİ
Anlatım,Soru-Cevap,Sunum
DEĞERLENDİRME YÖNTEMİ VE GEÇME KRİTERLERİ
Sayısı
Toplam Katkısı(%)
Ara Sınav
1
35
Ödev
1
12
Mini-Sınav
2
13
Toplam(%)
60
Yıl İçinin Başarıya Oranı(%)
60
Finalin Başarıya Oranı(%)
40
Toplam(%)
100
AKTS İŞ YÜKÜ
Aktivite
Sayı
Süresi(Saat)
İş Yükü
Ara Sınav
1
3
3
Kısa Sınavlara hazırlık
0
0
0
Sınıf Dışı Ders Çalışma Süresi
14
8
112
Final Sınavına Hazırlık
1
40
40
Ders Saati
14
3
42
Ara Sınava Hazırlık
1
30
30
Laboratuvar
0
0
0
Final Sınavı
1
3
3
Ödevler
2
35
70
Toplam İş Yükü
300
Toplam İş Yükü / 30
10
Dersin AKTS Kredisi
10
DİL
Türkçe
STAJ / UYGULAMA
Yok
PROGRAM YETERLİLİKLERİ (P) / DERSİN ÖĞRENME KAZANIMLARI (Ö) MATRİSİ
