Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Hopfield Ağı

1,497 views

Published on

Published in: Education
  • Be the first to comment

Hopfield Ağı

  1. 1. Hopfield Ağı Yapay Sinir Ağları ESOGU Bilg. Müh. 4. Sınıf Eğitmen:İdris Dağ
  2. 2. Bugün göreceklerimiz neler? <ul><li>Neden ‘Hopfield’ ve türevleri? </li></ul><ul><li>Hopfield Ağı </li></ul><ul><li>Ağın Yapısı Hebbian Kuralı </li></ul><ul><li>Ağırlıkların Belirlenmesi </li></ul><ul><li>Hopfield Ağı Türleri </li></ul><ul><li>Örnek Uygulama </li></ul><ul><li>Referanslar </li></ul>
  3. 3. Neden ‘Hopfield’ ve türevleri? <ul><li>Hopfield öncesi, varolan tüm YSA’ların mutlaka bir ileriye beslenme ve çoğunda bunu takip eden geri beslemeli eğitim devreleri vardı. </li></ul>AMA ? <ul><li>Ara hücrelerden çıkan değerler geriye dönüştürülerek tekrar girdi tabakasına ilave edilerek ileriye besleme yolu ile YSA’nın yeteneği arttırılamaz mı? </li></ul><ul><li>Aynı tabakanın hücreleri birbiri ile etkileşime giremezler mi? </li></ul>
  4. 4. Hopfield Ağı <ul><li>Aynı-uyum sınıflandırmasında kullanılan ilk ağlardan biridir. </li></ul><ul><li>Tek katmanlı ve geri dönüşümlü bir ağdır. </li></ul><ul><li>Proses elemanlarının tamamı hem girdi hem de çıktı elemanlarıdır. </li></ul><ul><li>Hücreler açık (+1) ya da kapalı (-1) olarak ikili mantığa göre çalışır. </li></ul><ul><li>İşlemci fonksiyonu süreksiz formda eşik fonksiyonu , sürekli formda sigmoid ve tanjant hiperbolik fonksiyonu olarak düşünülmüştür. </li></ul><ul><li>Ağın bağlantı değerleri bir enerji fonksiyonu olarak saklanmaktadır. </li></ul><ul><li>Ağın öğrenmesi Hebb kuralına göre yapılır. </li></ul>
  5. 5. Hopfield Ağı’nın Yapısı Hopfield Ağı bir miktar desenin depolanması için tasarlanmıştır böylelikle gürültülü veya kısmi ipuçlarından desenleri düzeltebilir. Bunu her deseni temsil eden attractorlara sahip bir enerji yüzeyi oluşturarak yapar. Gürültülü ve kısmi ipuçları sistemin attractorlara yakın olan durumlarıdır. Bir Hopfield Ağı peryodunda, enerji yüzeyi gürültülü desenden en yakın attractora – en yakın depolanmış deseni temsil eden - doğru kayar. Görsel olarak en çekici gösterimlerden birisi bir grup resmin depolanabilmesidir. Sonra ağa ya resimlerden birinin bir parçası (kısmi ipucu) ya da gürültülü bir resim (gürültülü ipucu) verilebilir ve bir çok iterasyon yoluyla depoladığı resimlerden birini bulgulardan çıkarmayı başarır.
  6. 6. Hopfield Ağı’nın Yapısı 1 2 i n ç i1 ç i2 ç ii ç in A ij i-inci noktadan j hücresine bağıntının ağırlığını gösterir. a12 a1i a1n ain an1 ani
  7. 7. Hopfield Ağı’nın Yapısı t zamanında ağın girdisi a ij ağırlık değeri ç ij (t-1) proses elemanın bir önceki çıktısı O eşik değeridir. Aynı hücrenin çıktısı Kesikli işlemci fonksiyonu Sürekli işlemci fonksiyonu
  8. 8. Hopfield Ağı’nın Yapısı Hebbian öğrenme kuralı Hopfield Ağı Hebbian öğrenmeyi uygular. Bu şekilde bir öğrenme ilk defa Hebb (1949) tarafından ifade edilen sinaptik modülasyon yönteminin matematiksel bir çıkarımıdır. Hebb‘in kuralına göre, eğer alıcı nöron ateşliyorken bir nöron başka bir nöronu uyarıyorsa, iki hücre arasındaki bağlantı ağırlıklandırılır.Matematiksel olarak: wij = ai aj Bu, bir ağırlıktaki değişim bağlandığı birimlerin aktivasyonları çarpımına eşittir. Böylelikle, eğer iki birim de açıksa (ai=1) veya her iki birim de kapalıysa (ai=-1) ağırlığın gücü artar, aksi halde azalır. Hebb kuralının matematiksel tanımı bir ağırlığın, eğer her iki birim de kapalıysa artmasına ve eğer birimlerin aktivasyonları 1 ve –1 ise azalmasını sağlar. Bu özellikler muhtemelen fiziksel olarak açıklanamaz ve değiştirilemez, bununla birlikte sisteme eğer Hebbian kuralı uygulanmışsa anlaşılamsı daha kolay olur. Eğer birimler dizisine bir deseni anında verip üstteki kuralı uygularsak, o desen ağın attractoru haline gelir, bu da Hopfield ağının ilgilendiği Hebbian öğrenmenin önemli bir özelliğidir. Sonuç olarak, eğer ağın aktivasyonunun deseni depolanmış bir desene yakınsa, o desene doğru gitmeye çalışacaktır. Ayrıca, attractora bir kere ulaştığında sürekli orda kalır –attractorlar sabittir.
  9. 9. Hopfield ağında diğer bazı YSA’lardaki gibi ağırlıkların yenilenmesi (geri besleme) ve çıktıların elde edilmesi (ileri besleme) olmak üzere iki faz vardır. Ağırlıkların Belirlenmesi: Ağın eğitimi bir defada öğrenme kuralına göre aşağıdaki formül kullanılarak yapılmaktadır. M öğrenilecek örnek sayısı X ise bir öğreğin i . ve j . elemanlarının değerlerini gösterir. Ağın kullanılabilmesi için durağan hale gelmesi gerekir. Bu da şu şekilde sağlanır. Ağırlıkların Belirlenmesi ve Bilgilerin Çağrılması
  10. 10. <ul><li>Hopfield ağında eğitimden sonra daha önce gösterilmemiş bir örnek gösterilir. Eksik veri içeren bir görüntü buna iyi bir örnektir. </li></ul><ul><li>Sonrasında ardışık yinelemeler sonunda ağın durağan hale gelmesi beklenir. </li></ul><ul><li>Bunu denetleyen bir enerji fonksiyonumuz vardır. Enerji fonksiyonu: </li></ul><ul><li>Ya azalır </li></ul><ul><li>Ya da sabit hale gelir. </li></ul>Ağırlıkların Belirlenmesi ve Bilgilerin Çağrılması
  11. 11. Hopfield Ağı Türleri Günümüzde iki çeşit Hopfield Ağı vardır. <ul><li>Kesikli (discrete) Hopfield Ağı: Çağrışımlı bellek (associative memory) olarak kullanılır. (Ör:Görüntü tanıma ve onarma) </li></ul><ul><li>Sürekli (continuous) Hopfield Ağı: Kombinetoryal optimizasyon problemlerinde kullanılır (Ör: Gezgin satıcı problemi) </li></ul>Herbiri n boyutlu K tane giriş deseni g 1 ,g 2 …g k olsun. t zaman sonra j-inci hücrenin çıkışınıda ç kj (t) olsun. Bir j hücresinden diğer bir i hücresine olan bağlantı katsayısı (ağırlık değ.) a ij olsun Eğer D ki i-inci hücreye k –inci desen YSA’ya girdiği kabul edilirse t+1 anındaki hücre çıkışı :
  12. 12. Hücre çıkışları -1 ve +1 arasında olmak zorundadır. <ul><li>Hücre işlemcisinin fonksiyonu sürekli fonksiyon olmalıdır. </li></ul><ul><li>Zamanda sürekli olduğundan giriş ve çıkışlar devamlı yenilenir. </li></ul><ul><li>Çok küçük zaman aralıklarında ∆t çıkışlarda ani değil,çok küçük değişimler oluşmaktadır. Bu yüzden çıkışlardaki değişim (türev) önemlidir. ( ∂ç(t) / ∂ t ) </li></ul>p = öğrenme yüzdesi F() = sürekli işlemci fonksiyonu Sürekli Hopfield Ağı
  13. 13. Ağırlıklar (1,1,1,1) Hafızada bulunan desen (1,1,1,1) olsun. Buna (1,1,1,-1) bozuk desen sunulursa ne olur? D 1 = 1*1 = 1 D 2 = 1*1 = 1 D 3 = 1*1 = 1 D 4 = 1*-1 = -1 olur. Önce 2. hücreyi örnek olsun diye kontrol edelim. a 21 g 1 +a 23 g 3 +a 24 g 4 +D 2 = 1 + 1 – 1 + 1 = 2 sgn(2) = 1 (2. hücre durumunu korumuştur) Sonra bozuk olan 4. hücreyi kontrol edelim. a 41 g 1 +a 42 g 2 +a 43 g 3 +D 4 = 1 + 1 + 1 - 1 = 2 sgn(2) = 1 (4. hücre -1 den +1 e geçmiş ve düzelmiştir.) Uygulama
  14. 14. Referanslar <ul><li>Yapay Sinir Ağları İlkeleri - Zekai ŞEN </li></ul><ul><li>Yapay Sinir Ağları – Ercan ÖZTEMEL </li></ul><ul><li>http://www.comp.nus.edu.sg/~pris/AssociativeMemory/ </li></ul><ul><li>http://batitrakya.dostweb.com/yapaysiniraglari/hopfieldagi.htm </li></ul><ul><li>http://www.cbu.edu/~pong/ai/Welcome.html </li></ul><ul><li>http://www2.psy.uq.edu.au/~brainwav/Manual/Hopfield.html#Mechanism </li></ul>
  15. 15. 152120021010 Ahmet Selman Bozkır 152120021015 Alper 152120021007 Zafer Aydın Bizi dinlediğiniz için teşekkürler…

×