Skip to main content

Kategori: Genel

Basamak Korelasyon Sinir Ağları Türleri- Bölüm 2-

nilgunsengoz Yorum yapın

BASAMAK KORELASYON AĞI TANIMI    

Önceki yazıda basamak korelasyon ağının hangi problemlerin çözümü için ortaya çıktığı anlatılmıştır. Bundan dolayı, basamak korelasyon iki anahtar fikri birleştirir; ilki basamak mimarisi ki burada bahsi geçen gizli birimler ağa bir kez eklenir ve eklendiği zamanda değişmezler. İkinci önemli durum ise, öğrenme algoritmasıdır. Bu algoritma yeni gizli birimler yaratır ve yükler. Burada aslında yapılmak istenen şey her bir gizli birim için, yeni birimlerin çıkışı ile elimine edilmeye çalışılan artık hata sinyal değerinin korelasyon büyüklüğünü maksimize etmektir.

Basamak mimarisi Şekil 1 de görüldüğü üzere ilk önce bazı girişler ile bir veya daha fazla çıkışlar ile başlar ki bu arada gizli birimler yoktur. Giriş ve çıkış sayıları problem tarafından verilir. Her bir giriş her bir çıkış değerine ayarlanabilir bir ağırlık ile bağlıdır. Ve tabi ki bias girişi +1’e göre kalıcı olarak ayarlanır. Çıkış birimleri ağırlıklandırılmış girişlerin doğrusal olarak toplamını üretebilir veya doğrusal olmayan aktivasyon fonksiyonu çalıştırabilir.

Gizli birimler ağa teker teker eklenir. Her bir yeni gizli birim ağın her bir orijinal girişlerinden ve daha önceki gizli birimlerden bağlantı alır. Gizli birimlerin giriş ağırlıkları net’e eklendiği zaman donar; sadece çıkış bağlantılar tekrarlı olarak eğitilir. İçerdeki bazı ağırlıklar sıfır olmadıkça, her bir birim bu nedenle ağa yeni bir ‘katman’ ekler. Bu durum çok güçlü bir yüksek seviye özellik sezinleyicinin yaratılmasına olanak sağlar; ayrıca derin yapılara ve gizli birimlere yüksek giriş yelpazesi sağlar. Yeni birimler eklendikçe yapının (ağın) derinliği ve giriş yelpazesinin minimize edilmesine yönelik bazı stratejiler mevcuttur. Fahlman ve Lebiere bunun üzerine bazı çalışmalar yapmıştır.

Şekil 1 Basamak mimarisi (başlangıçtaki hali ve sonradan gizli birimlerin eklenmesini göstermektedir. Dik çizgiler içerideki tüm aktivasyon toplamını gösteriyor. Kutu bağlantılar ise donmuş halde olanlar, X bağlantılar ise tekrarlı eğitimlerdir) (Fahlman ve Lebiere, 1990)

Devamını Oku

Basamak Korelasyon Sinir Ağı

nilgunsengoz Yorum yapın

BASAMAK KORELASYON SİNİR AĞI (CASCADE CORRELATION NEURAL NETWORK)

Basamak Korelasyon ağı, yapay sinir ağları içerisinde yeni ve öğreticili/denetimli öğrenme algoritması olarak yer almaktadır.  Bir ağın içindeki sabit topoloji de ağırlıkları ayarlamak yerine, Basamak Korelasyon ilk önce minimum ağ ile başlar, sonra otomatik olarak eğitir ve yeni gizli birimleri tek tek ekleyerek çok katmanlı bir yapı oluşturur. Eğer yeni gizli birim ağa eklenirse, giriş tarafındaki ağırlıklar dondurulur. Eklenmiş olan bu birim kalıcı bir hal alarak ağda özellik sezinleyici (feature-detector) olur ki bu durum daha karmaşık özellik sezinleyiciler için yeni çıkışlar üretme veya yeni yaratımlar için, olanak sağlar. Basamak Korelasyon yapısı var olan diğer algoritmalara nazaran bazı avantajlara sahiptir: çabuk öğrenir, ağ boyutuna ve topolojisine kendi karar verir, eğitim kümesi değişse dahi kurulmuş olan yapı kendini korur ve ağın bağlantıları aracılığıyla hata sinyallerinin hiçbiri geri yayılım gerektirmez.

Geri Yayılımlı Öğrenme Neden Yavaş?

Basamak Korelasyon öğrenme algoritması geri yayılım öğrenme algoritmasının getirdiği problemler ve kısıtlamalar yüzünden geliştirilmiştir (Rumelhart, 1986). En önemli kısıtlamalardan bir tanesi geri yayılımın örneklerden öğrenmesi sırasında yavaş adımla gerçekleşmesi olayıdır. Basit bir kıyaslama problemlerinde bile, bir geri yayılım algoritması örneklerden istenen davranışı binlerce kez epok öğrenmesi gerektirir Bir epok (epoch) eğitim örneklem kümesi üzerinde tek bir geçiş olarak tanımlanır. Eğer örneklem kümesi ne kadar büyükse geçiş o kadar zaman almaktadır). Fahlman ve Lebiere 1990 yılında geri yayılım algoritmasının neden yavaş olduğunu sorgulamışlar ve analizleri sonucu iki önemli problemi ortaya çıkarmışlardır. Adım-büyüklüğü (step-size) problemi ile hareketli hedef (moving target) problemidir. Fahlman ve Lebiere tarafından da kabul edilen bir gerçek şu ki; geri yayılım algoritmasının yavaş olma problemine etki eden başka faktörlerin de bulunduğu ama henüz tespit edilemediğidir (Fahlman ve Lebiere, 1990).

(http://www.computerhope.com/jargon/b/bnn.htm, 2017)

Devamını Oku

Yapay Sinir Ağları

nilgunsengoz Yorum yapın

YAPAY SİNİR AĞLARI

Bilgisayar teknolojilerinin gelişmesiyle birlikte insanoğlu neredeyse tüm işlemlerini bu yenilikçi teknolojiler üzerinde yapmakta ve yeni yöntemlerin bulunmasına olanak sağlamaktadır. İşte bu yüzdendir ki, 1980’li yıllarda ortaya atılan makinanın insan gibi düşünebilmesi fikri ortaya atılmış, 1990’lı yıllara gelindiğinde ise Yapay Sinir Ağları teknolojisi iyiden iyiye hızlanmış ve büyük bir gelişme görülmüştür.

Yapay Sinir Ağları, Yapay Zekâ kavramı altında oluşan bir alt başlık olup, bu konuya ilgi duyan araştırmacıların odak noktası haline gelmiştir.

Bu bölümde Yapay Sinir Ağları teorik açıdan anlatılmış olup, alt başlıklar halinde uygulamaları yer almıştır.

Yapay Sinir Ağları Tanımı ve Tarihçesi
Yapay sinir ağları örneklerle ilgili bilgiler toplamakta, genellemeler yapmakta ve daha sonra hiç görmediği örnekler ile karşılaştırılınca öğrendiği bilgileri kullanarak o örnekler hakkında karar verebilmektedir. Yapay sinir ağları bu öğrenebilme ve genelleme özellikleri nedeniyle günümüzde birçok bilim alanında geniş uygulama olanağı bulmakta ve karmaşık problemleri başarı ile çözebilme yeteneğini ortaya koymaktadır (Ergezer vd, 2003).

Diğer bir tanıma göre yapay sinir ağları; insan beyninden esinlenerek geliştirilmiş, ağırlıklı bağlantılar aracılığıyla birbirine bağlanan ve her biri kendi belleğine sahip işlem elemanlarından oluşan paralel ve dağıtılmış bilgi isleme yapıları; bir başka deyişle, biyolojik sinir ağlarını taklit eden bilgisayar programlarıdır (Elmas, 2003).

Yapay sinir ağlarının dayandığı ilk hesaplama modelinin temelleri 1940’ların başında araştırmalarına başlayan W.S. McCulloch ve W.A. Pitts’in, 1943 yılında yayınladıkları bir makaleyle atılmış olmuştur. Daha sonra 1954 yılında B.G. Farley ve W.A. Clark tarafından bir ağ içerisinde uyarılara tepki veren, uyarılara adapte olabilen model oluşturulmuştur. 1960 yılı ise ilk neural bilgisayarın ortaya çıkış yılıdır. 1963 yılında basit modellerin ilk eksiklikleri fark edilmiş, ancak başarılı sonuçların alınması 1970 ve 1980’lerde termodinamikteki teorik yapıların doğrusal olmayan ağların geliştirilmesinde kullanılmasına kadar gecikmiştir. 1985 yapay sinir ağlarının oldukça tanındığı, yoğun araştırmaların başladığı yıl olmuştur (Mehra Pankaj Wah W Benjamin, 1992).

Yapay sinir ağlarının kullanım alanları: Kontrol ve sistem tanımlama, görüntü ve ses tanıma, tahmin ve kestirim, arıza analizi, tıp, haberleşme, trafik, üretim yönetimi olarak sayılabilir(Pirim, 2006). Çizelge 1’de geleneksel algoritmalar ile YSA’ların karşılaştırma tablosu görülmektedir.

Geleneksel Algoritmalar Yapay Sinir Ağları
Çıkışlar, koyulan kurallara girişlerin uygulanması ile elde edilir. Öğrenme esnasında giriş çıkış bilgileri verilerek, kurallar koyulur.
Bilgiler ve algoritmalar kesindir. Deneyimden yararlanır.
Hesaplama; merkezi, eş zamanlı ve ardışıktır. Hesaplama; toplu, eş zamansız ve öğrenmeden sonra paraleldir.
Bellek paketlenmiş ve hazır bilgi depolanmıştır. Bellek ayrılmış ve ağa yayılmıştır.
Hata toleransı yoktur. Hata toleransı vardır.
Nispeten hızlıdır. Yavaş ve donanıma bağımlıdır.

Çizelge 1 Geleneksel Algoritmalar ile YSA’ların Karşılaştırılması (Pirim, 2006)

Devamını Oku

CES 2017-Nvidia

Şahin Can Yorum yapın

Mükemmel gelişmelere şahit olduğumuz Bir CES (Consumer Electronics Show)’un daha sonuna geldik. Gerçektende yapay zeka günlük yaşam uygulamaları hayret verici seviyeye ulaşmış vaziyette. Peki CES 2017 gelişmeleri neler ?

Nvidia’nın kurucusu ve CEO’su olan Jen-Hsun Huand otonom araç üretmek için dünyanın önde gelen firmalarıyla partnerlik kurduklarını açıkladı. Gelin bu firmalara kısaca bir göz atalım.

ZF FRIEDRICHSHAFEN AG

ZF Almanya merkezli dünyanın önde gelen kamyon ve ticari araç tedarikçisidir. Ayrıca, otomotiv endüstrisinde dünyanın ilk beş tedarikçisinden birisi.

Nvidia, ZF ile birlikte ZF ProAI Co-Pilot platformunu geliştiriyor.

 

 

ZF ProAI, CES 2016’da tanıtılan PX2 AI Computing tabanlı bir platform.

 

BOSCH

Bosch da ZF gibi Almanya merkezli bir elektronik ve mühendislik firması. Ayrıca otomotiv endüstrisinde dünyanın en büyük otomotiv teknolojisi tedarikçisidir.

 

Sıra en önemli partnerliğe geldi

AUDI

Audi ve Nvidia, yeni nesil otonom araçlar üretmek için bir araya geldi. Beraber yapacakları dünyanın en gelişmiş otonom araçlarını 2020 yılında yollarda görebileceğiz. Aslında bu birliktelik 10 yıl öncesine kadar dayanıyor. Audi of America Başkanı Scott Keogh, bu birliktelikten önce Amerika’da bir yılda ancak 60,000 araç sattıklarını, Nvidia ile partner olduktan sonra bu sayının gitgide artarak 2016 yılında 210,000 araç satışıyla bir rekora imza attıklarını açıkladı.

Beraber geliştirdikleri ve CES 2017’de tanıtımı yapılan aracın demosu

 

Nvidia bu araç dışında tabii ki  boş durmamış. Aşağıda gördüğünüz BB8 aracının tanıtımı da yapıldı.

BB8, gelişmiş derin öğrenme yöntemlerini kullanarak sürüş yeteneklerini geliştirebiliyor. Gece sürüşlerinde bile oldukça yetenekli.

 

Gelelim son gelişmemize. Jen-Hsun’un elinde tutmuş olduğu yeni yapay zeka bilgisayarı olan SoC XAVIER.

XAVIER 7 milyar transistör,  8 çekirdek ARM64 işlemcisi ve Volta mimarisine sahip bir süper bilgisayar. Ne yazıkki raflarda görebilmemiz için 2018 yılına kadar beklememiz gerekecek.

NVIDIA ARM SoCs
Xavier Parker Erista(TEgra XI)
CPU 8x Nvidia Custom ARM 2x Nvidia Denver  + 4x ARM Cortex-A57 4x ARM Cortex-A57  + 4x ARM Cortex-A53
GPU Volta, 512 CUDA Cores Pascal, 256 CUDA Cores Maxwell, 256
Memory ? LPDDR4, 128-bit Bus LPDDR3, 64-bit Bus
Video Processing 7680×4320 Encode & Decode 3840x2160p60 Decode
3840x2160p60 Encode		 3840x2160p60 Decode
3840x2160p30 Encode
Transistor 7B ? ?
Manufacturing Process TSMC 16nm FinFET+ TSMC 16nm FinFET+ TSMC 20nm Planar

 

Aşağıdaki linkten CES 2017 Nvidia sunumunun tamamına ulaşabilirsiniz. Bir sonraki yazımda görüşmek üzere. Hoşçakalın.

http://www.nvidia.com/object/ces-2017.html

Kişisel Asistan Teknolojisi

Şahin Can Yorum yapın

İlk araştırma ve uygulama yazı dizimden herkese merhabalar. Bu ve bundan sonraki yazılarımda amacım elimden geldiğince yapay zeka araştırmaları ve uygulamarı yapıp yayınlamak.

İlk olarak yapay zeka ile birleştirilen kişisel asistanlar teknolojisi nedir ondan bahsetmek istiyorum.

Peki Nedir Bu Kişisel Asistan ?

Vikipedia’ya göre : Belirli bir göreve veya şahsa hizmet verebilen yazılımlardır. Bu hizmetler, kullanıcı girdisine, konuma ve çeşitli çevrimiçi kaynaklardan gelen bilgilere erişme becerisine dayanır. Yani bizim takvimimizi düzenleyen, işlerimizi kolaylaştıran ve yeri geldiğinde eğlendiğimiz yazılımlardır.

 

Apple – Siri , Google – Google Home, Amazon – Alexa, Microsoft – Cortana bunlar tanınmış kişisel asistan yazılımlarından bazıları.

ve tabi hepimizin hayran olduğu Jarvis

Şimdi işin biraz daha derinine girelim.

Mobil cihazlar için akıllı kişisel asistan teknolojisi, uygulama programlama arabirimleri (API) ve mobil uygulamaların çoğalmasıyla sağlanıyor. Büyük firmalar dışında birçok bağımsız geliştiricinin yapmakta olduğu kişisel asistanlar hali hazırda mevcut. Fakat bu tür yazılımların tek eksik yönü, kullanıcıdan gelen bir kerelik belirli görevleri yerine getirmek üzere tasarlanmıştır. Yani Jarvis gibi asistanlar için biraz daha beklememiz gerekecek ama gelişme sürecinin hızına bakarsak, bu sürenin çok kısa olacağına eminim.

API NEDİR ?

Application Programming Interfaces (Uygulama Programlama Arayüzleri) iki veya daha fazla yazılımın veya veritabanlarının sorunsuz çalışmasını ve birbirleri arasında tanımlamış işlevlerini kullanabilmesi için oluşturulmuş yapılardır. API’nin en büyük avantajı açık kaynak ve geliştirilebilir olmasıdır. Aslında bakacak olursak aralarında ufak tefek farklar olsa da Web Servislerinin modern yüzü diyebiliriz.

Geliştirdiğimiz API’ye kullanım izni verdiğimiz zaman, yazılım geliştiriciler onlara sağladığımız imkanları farklı şekillerde de kullanarak ürün geliştirir ve dolaylı yoldan bizim de gelişmemize aracı olurlar. Bilgi paylaşıldıkça çoğalır. Yapılan işin özü aslında budur. Bilgi paylaşımı.

 

Yazıma Google’ın geliştirdiği Google Home ile veda etmek istiyorum. Bir sonraki yazımda artık kod yazmaya başlayacağız.

Hoşçakalın.