Edge AI Nedir? Yapay Zekâ Veriyi Cihaz Üzerinde Nasıl İşler?

Edge AI Nedir?

Edge AI, yapay zekâ algoritmalarının verinin üretildiği noktaya yakın cihazlarda çalıştırılması yaklaşımıdır.

Geleneksel bulut tabanlı yapay zekâ sistemlerinde sensör, kamera veya başka bir cihaz tarafından oluşturulan veriler ağ üzerinden uzak bir veri merkezine gönderilir. Yapay zekâ modeli bu veriyi bulutta işler ve sonuç daha sonra tekrar cihaza iletilir.

Edge AI sistemlerinde ise bu işlemin tamamı veya önemli bir bölümü doğrudan yerel donanım üzerinde gerçekleştirilir.

Bu donanım:

• Bir endüstriyel bilgisayar
• Akıllı kamera
• Robot kontrolörü
• Araç içi bilgisayar
• Tek kart bilgisayar
• Mikrodenetleyici
• NPU veya GPU içeren gömülü sistem

olabilir.

Bu yaklaşım sayesinde yapay zekâ yalnızca büyük veri merkezlerinde çalışan bir yazılım olmaktan çıkarak fiziksel sistemlerin doğrudan bir parçası haline gelir.

Edge AI Nasıl Çalışır?

Bir Edge AI sisteminde süreç genellikle sensör veya kamera tarafından veri üretilmesiyle başlar.

Bu veri merkezi bir bulut sistemine gönderilmeden önce yerel cihaz üzerinde işlenir.

Örneğin bir fabrikadaki endüstriyel kamera sürekli görüntü üretiyor olabilir.

Geleneksel bir sistemde görüntüler bir sunucuya gönderilip analiz edilebilir.

Edge AI yaklaşımında ise kameraya bağlı yerel bir işlemci veya doğrudan kameranın içerisindeki AI hızlandırıcısı görüntüyü analiz eder.

Sistem yalnızca gerekli sonucu üst sisteme iletebilir.

Örneğin:

“Ürün hatalı”
“İnsan algılandı”
“Motor davranışı anormal”
“Araç tespit edildi”

gibi sonuçlar oluşturulabilir.

Böylece ham verinin tamamını sürekli olarak merkezi bir sisteme göndermek yerine yalnızca gerekli bilgiler aktarılabilir.

Edge AI ile Cloud AI Arasındaki Fark Nedir?

Cloud AI ve Edge AI aynı yapay zekâ modellerini veya benzer algoritmaları kullanabilir ancak işlemin gerçekleştirildiği yer farklıdır.

Cloud AI

Cloud AI sistemlerinde veri internet veya başka bir ağ bağlantısı üzerinden merkezi veri merkezlerine gönderilir.

Bulut sistemleri çok yüksek işlem gücü sağlayabilir.

Büyük yapay zekâ modellerinin eğitilmesi, kapsamlı veri analizi veya farklı kaynaklardan gelen büyük veri kümelerinin birlikte işlenmesi için bulut altyapıları oldukça uygundur.

Ancak veri sürekli olarak uzak bir sisteme gönderildiği için ağ gecikmesi ve bağlantı bağımlılığı ortaya çıkabilir.

Edge AI

Edge AI sistemlerinde çıkarım işlemi cihazın kendisinde veya verinin üretildiği noktaya yakın bir bilgisayarda gerçekleştirilir.

Bu yaklaşım:

• Daha düşük gecikme
• Daha düşük bant genişliği kullanımı
• Daha yüksek veri gizliliği
• İnternet bağlantısı olmadan çalışma
• Gerçek zamanlı fiziksel sistemlere daha hızlı tepki

gibi avantajlar sağlayabilir.

Bununla birlikte Edge AI cihazlarının işlem gücü ve enerji kapasitesi genellikle büyük veri merkezlerinden çok daha sınırlıdır.

Bu nedenle iki yaklaşım birbirinin doğrudan alternatifi olmak zorunda değildir.

Modern sistemlerde Edge AI ve Cloud AI sıklıkla birlikte kullanılabilir.

Edge Computing ile Edge AI Aynı Şey midir?

Hayır.

Edge computing, verinin merkezi bir veri merkezi yerine kaynağa yakın bir noktada işlenmesini ifade eden daha geniş bir kavramdır.

Edge AI ise bu yaklaşımın yapay zekâ algoritmalarıyla gerçekleştirilen özel bir uygulamasıdır.

Örneğin bir fabrika bilgisayarının sensör verilerini filtrelemesi ve ortalamasını hesaplaması edge computing olarak değerlendirilebilir.

Aynı cihazın makine öğrenmesi modeli kullanarak sensör verilerinden bir arıza ihtimalini tahmin etmesi ise Edge AI uygulamasıdır.

Dolayısıyla her Edge AI sistemi edge computing prensiplerini kullanır ancak her edge computing sistemi yapay zekâ kullanmak zorunda değildir.

Edge AI Sistemlerinde Hangi Donanımlar Kullanılır?

Yapay zekâ modellerinin cihaz üzerinde çalıştırılması özel donanım gereksinimleri oluşturabilir.

Kullanılacak donanım, çalıştırılan modelin büyüklüğüne ve uygulamanın performans ihtiyacına göre değişir.

CPU

Genel amaçlı işlemciler küçük ve orta ölçekli yapay zekâ modellerini çalıştırabilir.

Ancak görüntü işleme ve derin öğrenme gibi yoğun paralel hesaplama gerektiren uygulamalarda CPU tek başına yeterli performansı sağlayamayabilir.

GPU

GPU'lar çok sayıda matematiksel işlemi paralel gerçekleştirebildiği için yapay zekâ uygulamalarında yaygın olarak kullanılır.

Robotik, görüntü işleme ve otonom sistemlerde gömülü GPU platformları önemli bir rol oynar.

NPU

NPU (Neural Processing Unit), yapay sinir ağı işlemlerini hızlandırmak için tasarlanmış özel işlem birimidir.

NPU'lar özellikle düşük enerji tüketimiyle AI inference gerçekleştirmek isteyen gömülü sistemlerde giderek daha yaygın hale gelmektedir.

Mikrodenetleyiciler

Daha küçük yapay zekâ modelleri mikrodenetleyiciler üzerinde de çalıştırılabilir.

Bu tür sistemler genellikle düşük güç tüketimi ve düşük maliyet gerektiren uygulamalarda kullanılır.

Bu yaklaşım çoğu zaman TinyML kavramıyla ilişkilendirilir.

AI Inference Nedir?

Yapay zekâ sistemlerinde iki temel aşama bulunur:

Training — Eğitim

Inference — Çıkarım

Model eğitimi sırasında yapay zekâ sistemi büyük miktarda veri kullanarak belirli bir görevi öğrenir.

Inference aşamasında ise eğitilmiş model yeni gelen veriyi analiz ederek bir sonuç üretir.

Edge AI sistemlerinin büyük bölümü cihaz üzerinde model eğitmek yerine önceden eğitilmiş modeli kullanarak inference gerçekleştirir.

Örneğin bir fabrikada kullanılan görüntü işleme modeli daha güçlü sunucularda eğitilebilir.

Eğitilmiş model daha sonra üretim hattındaki edge cihazına yüklenebilir.

Cihaz üretim sırasında gerçek zamanlı görüntüleri analiz ederek hatalı ürünleri tespit edebilir.

TinyML Nedir?

TinyML, makine öğrenmesi modellerinin çok sınırlı işlem gücüne ve belleğe sahip mikrodenetleyiciler üzerinde çalıştırılması yaklaşımıdır.

Bu sistemlerde işlemci gücü, RAM ve enerji tüketimi ciddi biçimde sınırlıdır.

Bu nedenle modellerin:

• Küçültülmesi
• Optimize edilmesi
• Quantization uygulanması
• Bellek kullanımının azaltılması

gerekebilir.

TinyML sayesinde bir sensör düğümü veya düşük güçlü gömülü sistem, sürekli internet bağlantısına ihtiyaç duymadan basit yapay zekâ görevlerini gerçekleştirebilir.

Örneğin titreşim verisini analiz eden küçük bir mikrodenetleyici, makinedeki anormal çalışma durumlarını yerel olarak algılayabilir.

Edge AI Neden Daha Düşük Gecikme Sağlayabilir?

Fiziksel sistemlerde tepki süresi kritik olabilir.

Bir robotun insan algıladığında hareketini değiştirmesi veya bir makinenin tehlikeli bir durum tespit edildiğinde durdurulması gerekiyorsa verinin uzak bir veri merkezine gönderilip geri dönmesi istenmeyen gecikmeler oluşturabilir.

Edge AI sisteminde analiz doğrudan yerel cihazda gerçekleştirilebilir.

Bu nedenle karar sürecine:

• İnternet gecikmesi
• Bulut sunucu yoğunluğu
• Ağ yönlendirme süresi

gibi faktörlerin etkisi azaltılabilir.

Ancak gerçek zamanlı güvenlik fonksiyonlarının yalnızca genel amaçlı yapay zekâ sistemlerine bırakılması uygun değildir.

Endüstriyel güvenlik uygulamalarında sertifikalı güvenlik sistemleri ve deterministik kontrol mekanizmaları kullanılmaya devam eder.

Edge AI bu sistemleri destekleyebilir ancak güvenlik fonksiyonlarının yerini otomatik olarak almaz.

Edge AI Bant Genişliği Kullanımını Nasıl Azaltır?

Modern sensörler çok büyük miktarda veri üretebilir.

Özellikle yüksek çözünürlüklü kameralar sürekli olarak ağ üzerinden aktarılması zor olan veri akışları oluşturabilir.

Edge AI sayesinde verinin tamamını göndermek yerine yalnızca analiz sonucu gönderilebilir.

Örneğin bir kalite kontrol kamerası saniyede çok sayıda görüntü oluşturabilir.

Sistem tüm görüntüleri merkezi sunucuya göndermek yerine yerel olarak analiz ederek yalnızca:

“Ürün uygun”

veya

“Ürün hatalı”

sonucunu üretim sistemine gönderebilir.

Bu yaklaşım ağ trafiğini önemli ölçüde azaltabilir.

Edge AI ve Veri Gizliliği

Verinin cihaz üzerinde işlenmesi bazı uygulamalarda gizlilik açısından önemli avantaj sağlayabilir.

Örneğin kamera görüntüsünün analiz edilmesi gerekiyorsa ham görüntünün sürekli olarak uzak bir sunucuya gönderilmesi gerekmeyebilir.

Cihaz görüntüyü yerel olarak analiz edip yalnızca gerekli sonucu paylaşabilir.

Bu durum özellikle:

• Akıllı bina sistemleri
• Sağlık uygulamaları
• Güvenlik sistemleri
• İnsan algılama uygulamaları

gibi hassas veri içeren sistemlerde önemli olabilir.

Ancak Edge AI kullanılması tek başına sistemin güvenli veya gizlilik açısından sorunsuz olduğu anlamına gelmez.

Yerel cihazların da güvenli yazılım, kimlik doğrulama, güncelleme ve veri koruma mekanizmalarına ihtiyaçları vardır.

Edge AI Endüstriyel Otomasyonda Nasıl Kullanılır?

Endüstriyel otomasyon, Edge AI'nın en önemli uygulama alanlarından biridir.

Görüntü Tabanlı Kalite Kontrol

Üretim hattındaki kameralar ürünlerin görüntülerini analiz ederek yüzey kusurlarını, eksik parçaları veya yanlış montajları tespit edebilir.

Analizin üretim hattına yakın bir cihazda gerçekleştirilmesi, hızlı karar verilmesine yardımcı olabilir.

Kestirimci Bakım

Motorlar, pompalar, redüktörler ve diğer makinelerden alınan:

• Titreşim
• Sıcaklık
• Akım
• Ses

gibi veriler Edge AI modelleriyle analiz edilebilir.

Model normal çalışma davranışından sapmaları tespit ederek potansiyel arızalara ilişkin erken uyarılar üretebilir.

Anomali Tespiti

Endüstriyel proseslerde her arızanın önceden tanımlanmış bir kuralı bulunmayabilir.

Makine öğrenmesi modelleri normal çalışma verisini öğrenerek olağandışı durumları algılayabilir.

Bu yaklaşım özellikle karmaşık proseslerde kullanılabilir.

Edge AI Robotikte Nasıl Kullanılır?

Robotların çevreleriyle gerçek zamanlı etkileşim kurması gerekir.

Bu nedenle robotik sistemlerde birçok AI işleminin doğrudan robot üzerinde gerçekleştirilmesi önemli avantajlar sağlar.

Edge AI ile robot:

• Nesneleri tanıyabilir
• İnsanları algılayabilir
• Görüntüden konum çıkarabilir
• Çevresini sınıflandırabilir
• Hareket kararlarını destekleyebilir

Mobil robotlarda kameralar, LiDAR ve diğer sensörlerden gelen bilgiler yerel bilgisayar üzerinde işlenebilir.

Bu sayede robotun her hareket kararı için bulut bağlantısına ihtiyaç duyması önlenebilir.

Edge AI Otomotivde Nasıl Kullanılır?

Modern araçlar büyük miktarda sensör verisi üretmektedir.

Kameralar, radarlar, ultrasonik sensörler ve diğer sistemlerden gelen bilgilerin önemli bir kısmı araç içerisinde işlenir.

Edge AI uygulamaları:

• Sürücü izleme sistemleri
• Nesne algılama
• Şerit tespiti
• Trafik işareti tanıma
• Araç içi ses işleme
• Sürücü destek sistemleri

gibi alanlarda kullanılabilir.

Özellikle sürüşle ilgili kritik kararların yalnızca uzak bir bulut sunucusuna bağlı olması pratik değildir.

Bu nedenle otomotiv sistemlerinde yüksek performanslı yerel işlem platformları giderek daha önemli hale gelmektedir.

Edge AI Akıllı Kameralarda Nasıl Kullanılır?

Geleneksel kamera sistemleri çoğunlukla görüntüyü kaydeder veya başka bir sisteme aktarır.

AI destekli akıllı kameralar ise görüntüyü doğrudan cihaz üzerinde analiz edebilir.

Bu kameralar:

• İnsan tespiti
• Araç tespiti
• Nesne sınıflandırma
• Ürün kalite kontrolü
• Güvenlik bölgesi izleme

gibi görevleri yerine getirebilir.

Bu yaklaşım özellikle çok sayıda kameranın bulunduğu sistemlerde merkezi sunuculara gönderilen veri miktarını azaltabilir.

Edge AI Sistemlerinde Model Optimizasyonu Neden Önemlidir?

Edge cihazlarının donanım kaynakları sınırlıdır.

Büyük yapay zekâ modellerini doğrudan küçük gömülü platformlarda çalıştırmak her zaman mümkün değildir.

Bu nedenle modeller çeşitli yöntemlerle optimize edilebilir.

Quantization

Model içerisinde kullanılan sayıların hassasiyeti azaltılarak hesaplama ve bellek gereksinimleri düşürülebilir.

Örneğin 32 bit kayan nokta hesaplamaları yerine daha düşük hassasiyetli veri türleri kullanılabilir.

Pruning

Yapay sinir ağındaki düşük öneme sahip bazı bağlantılar kaldırılarak model küçültülebilir.

Model Distillation

Büyük bir modelin öğrendiği bilgilerin daha küçük bir modele aktarılması amaçlanabilir.

Bu yöntemler sayesinde daha düşük işlem gücüne sahip cihazlarda yapay zekâ modelleri çalıştırılabilir.

Ancak optimizasyon yapılırken model doğruluğu ile donanım performansı arasında uygun denge kurulması gerekir.

Edge AI Sistemlerinin Avantajları Nelerdir?

Edge AI'nın başlıca avantajları şunlardır:

• Daha düşük gecikme
• Daha az ağ trafiği
• İnternet bağlantısı olmadan çalışma imkânı
• Ham verinin cihaz üzerinde tutulabilmesi
• Gerçek zamanlı sistemlerle daha yakın entegrasyon
• Bulut kaynaklarına olan bağımlılığın azaltılabilmesi
• Dağıtık sistemlerin daha bağımsız çalışabilmesi

Bu özellikler Edge AI'yı özellikle fiziksel dünyayla doğrudan etkileşim kuran mekatronik sistemler için önemli hale getirir.

Edge AI Sistemlerinin Sınırlamaları Nelerdir?

Edge AI her uygulama için ideal çözüm değildir.

Edge cihazlarında:

• İşlem gücü
• Bellek
• Enerji
• Depolama kapasitesi
• Soğutma

sınırlı olabilir.

Bu nedenle çok büyük yapay zekâ modellerinin doğrudan cihaz üzerinde çalıştırılması zor olabilir.

Ayrıca sahaya dağıtılmış çok sayıda Edge AI cihazının:

• Yazılımlarının güncellenmesi
• Modellerinin yenilenmesi
• Siber güvenliğinin sağlanması
• Performansının izlenmesi

ayrı bir yönetim problemi oluşturabilir.

Model doğruluğunun zaman içerisinde değişmesi de dikkate alınmalıdır.

Fiziksel sistem veya üretim koşulları değiştikçe modelin yeni verilerle yeniden değerlendirilmesi gerekebilir.

Edge AI ile Bulut Birlikte Kullanılabilir mi?

Evet.

Birçok modern sistemde en verimli yaklaşım Edge AI ve bulut altyapısının birlikte kullanılmasıdır.

Örneğin fabrika içerisindeki Edge AI cihazları gerçek zamanlı kararları yerel olarak verebilir.

Aynı zamanda özet veriler, performans kayıtları veya seçilmiş örnekler bulut sistemine gönderilebilir.

Bulutta:

• Büyük ölçekli analiz
• Model eğitimi
• Filo yönetimi
• Uzun dönemli veri analizi

gerçekleştirilebilir.

Güncellenen modeller daha sonra yeniden edge cihazlarına dağıtılabilir.

Bu nedenle modern AI mimarilerinde edge ve cloud çoğu zaman birbirini tamamlayan katmanlar olarak değerlendirilir.

Edge AI'nın Geleceği

Sensörlerin, robotların, araçların ve akıllı cihazların sayısı arttıkça fiziksel dünyada üretilen veri miktarı da hızla büyümektedir.

Bu verilerin tamamının sürekli olarak merkezi veri merkezlerine gönderilmesi her zaman verimli veya gerekli değildir.

Aynı zamanda NPU, GPU ve özel AI hızlandırıcılarının giderek daha küçük ve enerji verimli hale gelmesi, yapay zekânın doğrudan cihazlara taşınmasını kolaylaştırmaktadır.

Gelecekte daha fazla:

• Endüstriyel sensör
• Robot
• Kamera
• Araç
• Mobil sistem
• IoT cihazı

yerel olarak yapay zekâ çalıştırabilir.

Bu dönüşüm, yapay zekânın yalnızca dijital platformlarda çalışan bir yazılım teknolojisi olmaktan çıkarak fiziksel makinelerin ve kontrol sistemlerinin doğrudan bir parçası haline gelmesini sağlayabilir.

Mekatronik açısından Edge AI'nın önemi de tam olarak burada ortaya çıkar.

Sensörlerden gelen veriyi işleyen gömülü sistemler, fiziksel makineler ve yapay zekâ algoritmaları aynı sistem içerisinde birleşmektedir.

Bu nedenle Edge AI; elektronik, yazılım, kontrol, sensör teknolojileri ve yapay zekânın kesişiminde yer alan yeni nesil mekatronik sistemlerin temel teknolojilerinden biri haline gelmektedir.