Týždeň 2024-50

Určite ste minulý týždeň zachytili, ako Google uviedol svoj nový kvantový čip Willow. Obsahuje 105 qubitov a nepochybne ide o špičku v kvantovej technológii.


Toto je sprievodná diskusia k pôvodnej téme na https://blog.vyvojari.dev/vlko-week-2024-50
1 lajk

Inac skusali ste Phi-3? Ak hej, na com?
Ja som sa s nim hral v C# kode, a chcel som si spavit RAG, ale je na to maly. No dokaze odpovedat na jednu otazku a paradne opisat obrazky. Alebo som nieco proste spravil zle.

Ja testujem Phi 3.5 Vision ako OCR konverter a veru nie je to az tak zle. Teda aspon prvotny vyskum.

Pouzil si nejake C# riesnie? Ci nieco hotove?

Skúšal som C# Phi3.5 Vision cez ONNX na OCR. Ale nepodarilo sa mi rozbehať CUDA podporu cez ONNX. Bez nej je to k uzúfaniu pomalé. V Pythone sa mi to podarilo rozbehať aj s CUDA, ale rýchlosť je taká meh na no, čo potrebujeme my. Takže odkladám do šuflíka:)