• KƏPƏZ TV
    canlı yayım
Bu günə xəbərlərin oxunma sayı: 1943
— 07.01.2024 09:24

Apple smartfonlarında böyük dil modellərinin işə salınması hədəflənib

Böyük dil modelləri böyük həcmdə yaddaş və hesablama resurslarını tələb edirlər. Buna görə də onları mobil cihazlarda işə salmaq qəlizdir. Apple mühəndislərinin aparmış olduqları tədqiqata əsasən böyük dil modellərini fləş yaddaşın istifadəsi ilə işə salmaq daha effektivlidir. Gözləntilərə əsasən Apple bu texnologiyanı öz generativ süni zəka sisteminin iPhone-larda işə salınması üçün istifadə edəcək. Apple mühəndislərinin sözlərinə əsasən məhdud həcmdə resursa sahib cihazlarda böyük dil modellərini fləş yaddaşın istifadəsi ilə işə salmaq daha çox sərf edir. Bununla yanaşı fləş yaddaş mobil cihazlarda tez-tez istifadə olunur. Bununla yanaşı Apple mühəndisləri mobil cihazlarda böyük dil modellərinin istifadə edə biləcəkləri əlavə əməliyyatların sayını azaltmağa və fləş yaddaşın performansını artırmağa hədəflənmiş iki qaydanı təqdim ediblər.

- Böyük dil modeli hər dəfə yeni məlumatları yükləmək əvəzinə artıq emal edilmiş məlumatları təkrar olaraq istifadə etməlidir.

- Məlumatlar elə şəkildə qruplaşdırılmalıdır ki, onları böyük fraqmentlər şəkildə oxumaq mümkün olsun. Bu, neyron şəbəkəsinin işini sürətləndirməyə hədəflənib.

Aparılmış tədqiqata əsasən bu üsul sayəsində süni zəka modeli CPU-da 4-5 dəfə, GPU-da isə 20-25 dəfə daha sürətli çalışa bilir.