Büyük dil modellerini (LLM) bilgisayarda yerel olarak çalıştırmaya ve yönetmeye olanak tanıyan bir araç olan Ollama‘nın 0.11.9 sürüm adayı duyuruldu. Harici sunuculara veya bulut tabanlı hizmetlere bağlı kalmadan, yapay zeka modellerini kullanıcının tamamen kendi bilgisayarında çalıştırabileceği, özel ve potansiyel olarak daha hızlı bir çalışma ortamı elde edebilecekleri ifade ediliyor. Bunun bir test sürümü olduğunun unutulmaması ve yalnızca test etmek amacıyla kullanılması gerektiği belirtilirken, sürümün, güzel bir performans iyileştirmesiyle geldiği söyleniyor. Ollama‘nın bu yeni sürümü, GPU ve CPU hesaplamalarını üst üste bindirerek gelişmiş performans sağlıyor. Ollama, bu modellerle etkileşim için geliştirilmiş bir API ve komut satırı arayüzü (CLI) sunarak, geliştiricilerin bu yapay zeka yeteneklerini kendi uygulamalarına kolayca entegre etmelerine olanak sağlıyor. macOS, Windows ve GNU/Linux gibi büyük platformlarda çalışabilen yazılımın bu sürümünün, VMware mühendisi Daniel Hiltgen tarafından geliştirildiği ve GPU’nun meşgul kalmasına yardımcı olmak için bir sonraki grup için grafiği eşzamansız olarak oluşturmayı amaçladığı ifade ediliyor. Metal işlemcide, token oranında %2-3’lük; RTX 4090 işlemcide ise yaklaşık %7’lik bir hızlanma görüldüğü belirtiliyor. Ollama 0.11.9-rc0 sürümü ayrıca, tanınmayan AMD GPU’larının ollama için hataya neden olduğu sorunları da düzeltiyor. Ollama 0.11.9-rc0 hakkında bilgi edinmek için GitHub sürümler sayfasını inceleyebilirsiniz.
Continue Reading →
Ollama 0.11.9-rc0 edinmek için aşağıdaki linklerden yararlanabilirsiniz.
OpenGL ve Direct3D üzerinden ses, klavye, fare, joystick ve grafik donanımlarına düşük düzeyde erişim sağlamak için tasarlanmış bir çapraz platform geliştirme kütüphanesi olan SDL‘nin (Simple DirectMedia Layer) SDL 3.2.22 sürümü, Sam Lantinga tarafından duyuruldu. Bunun, kararlı bir hata düzeltme sürümü olduğu belirtilirken, Windows ve macOS’ta tam ekran geçiş uç durumlarının düzeltildiği söyleniyor. Bir SDL uygulaması başlatılırken macOS’ta bazen görünen dock düzeltilmiş bulunuyor. NDK’yi r28c’ye güncellendiği, sayfa boyutu yönetiminin kaldırıldığı ve 16 kB sayfa boyutu doğrulamasının eklendiği ifade ediliyor. Android’de imzalı 8 bit ses düzeltmesi yapılırken, Android’de parmak izi sensörlerinin joystick olarak algılanması sorunu da düzeltilmiş bulunuyor. Emscripten’de gürültülü joystick desteği eklenirken, iOS’ta SDL_HINT_AUDIO _CATEGORY için “ambient” değerinin desteklendiği belirtiliyor. SDL2’den geçiş yapanlar için kapsamlı bir değişiklik ve geçiş ipuçları listesinin buraya konulduğu belirtiliyor. API referansını yazmak ve gözden geçirmek için çok çaba harcandığı belirtilirken, artık farklı alt sistemlerin farklı yaklaşımlar benimsemesi yerine, her şeyin API genelinde tutarlı bir şekilde adlandırıldığı söyleniyor. SDL 3.2.22 hakkında bilgi edinmek için GitHub sürümler sayfasını inceleyebilirsiniz.
Dizüstü ve masaüstü bilgisayarlar ve sunucular için geliştirilen 
Açık kaynak kodlu,