banjalukaforum.com

Elem, da otvorim mozda zanimljivu temu, o prakticnoj upotrebi LLM za pisanje koda, odnosno programiranje.
U konkretnom slucaju sledeci "use case scenario":

Porodica ima arhivu od ~20k iphone fotografija na racunaru (DCIM folder) a zele izvuci sve na kojima se nalazi jedan od clanova koji je nedavno umro.
Pregledati jednu po jednu fotografiju nije prakticno, pa sam odlucio smisliti rjesenje koje ce skenirati cijeli folder sa fotografijama a u slucaju "live" photo odnosno mov fajla izvuci middle frame i skenirati lica, te ako se desi poklapanje sliku ili frame kopirati u novi folder.

Pocetni prompt na Grok-u je bio tipa "I need to identify all photos on which one particular person is present, by this person face, cropped from one of the photos.
Grok je predlozio insightface i modele za face detection i face recognition (ima ih nekoliko, koristili smo buffalo_l).

Napisao mi je kod, python sa GUI, input folder, target face, output folder. Inicijalno, execution provider je bio CPU, ali to bese previse sporo pa je grok napisao installer skriptu za win + requirements.txt.
Conda env, pa u env python i potrebne modele itd itd.
Sa GPU je islo drasticno brze i posao je odradjen.
Trebalo je ukupno par sati debugovanja i testiranja i fine tunninga oko threshold podesavanja, ali na kraju je sve funkcionisalo besprekorno.
Dalje sam dosao do jos nekoliko ideja koje je grok odlicno shvatio i odradio sto je trazeno, i za sada evo kako to izgleda, mislim na GUI:

Naravno trazio sam detaljan debug output i evo par linija:
2025-06-03 18:30:39,315 - DEBUG: Processing file 3108/9334: E:/Archive/DCIM\JPG\IMG_0734.JPG
2025-06-03 18:30:41,042 - DEBUG: Detected 42 faces in E:/Archive/DCIM\JPG\IMG_0734.JPG
2025-06-03 18:30:41,042 - DEBUG: Raw embedding shape for face 1 in E:/Archive/DCIM\JPG\IMG_0734.JPG: (512,)
2025-06-03 18:30:41,042 - DEBUG: Face 1 in E:/Archive/DCIM\JPG\IMG_0734.JPG: similarity=-0.029
2025-06-03 18:30:41,042 - DEBUG: Raw embedding shape for face 2 in E:/Archive/DCIM\JPG\IMG_0734.JPG: (512,)
2025-06-03 18:30:41,043 - DEBUG: Face 2 in E:/Archive/DCIM\JPG\IMG_0734.JPG: similarity=-0.028
2025-06-03 18:30:41,043 - DEBUG: Raw embedding shape for face 3 in E:/Archive/DCIM\JPG\IMG_0734.JPG: (512,)
2025-06-03 18:30:41,043 - DEBUG: Face 3 in E:/Archive/DCIM\JPG\IMG_0734.JPG: similarity=0.019

itd itd.
Sa screenshota se vidi koje sve funkcije trenutno postoje, a moguce je napraviti i paralelizaciju na dvije nvidia kartice. Sve ovo je napisao grok u osnovnoj besplatnoj verziji, ukupno 1215 linija koda.

Sledeca stvar za koju sam koristio grok je da mi napise skriptu da ripujem slike sa rmc sajta, da bih skenirao galeriju (da se pronadjem) jer je praktcno nemoguca misija pronaci sebe na tom sajtu u galeriji medju 1800 slika, prosto je interfejs ogranicen.
Odradjeno, poskidali sve fotografije unazad tri godine, nasao brdo slika za drugare a mene nema .

Naravno, moram reci da sa vec imao solidno znanje iz materije, kako se koristi python, kako instalirati neki paket i slicno, dakle nisam neki laik, ali bez obzira na to grok je napisao detaljne instrukcije pa kontam da bi svako sa nekim minimalnim nivoom znanja mogao napraviti isto ili slicno.
Bilo bi zanimljivo vidjeti koliko bi kostalo da se slicna aplikacija napise prije 5 godina (a i tad su postojali face recognition/detection modeli).

_________________
Нема ту чојека чим слави посну славу . . .

Ма нема то везе, на крају ће увести у основне школе програмирање од 4. до 8, средње наравно да не спомињемо и стеће сви довољно предзнање да користе ВИ. Свијет се мијења и ко не прихвати и не прилагоди се пропашће као и увијек што је било. За сада су се мало залетали, неке фирме су отпуштале па морале запошљавати, али тренд је неминовност.

Колико би коштала? Па сигурно не мало. Бар један програмер за интерфејс и један дословце експерт за ВИ. Урачунај им бруто плате, мјесец дана да се то све уради и испегла, и профит газде фирме од које би тражио посао.

Уствари, ајде да видим шта ће срећо (ChatGPT) рећи на ово, јер он је сад паметан, а ми нисмо.



Нешто ми ово мало. Поставићу му додатно питање.



Ево и то не зна.

_________________

Ne bih se slozio, oko utroska vremena na 1200 linija koda. Naravno, neko bi morao imati predznanje oko toga kako funkcionise insightface modul i onnxruntimes ali bez obzira na to, programer sa kojim radim bit takav zadatak odradio za maksimalno dva dana. Doduse, on je mozda high level senior u odnosu na dosta likova koje znam.

Elem, idemo dalje.
Jos prije ovog face recognition projekta sam imao ideju da mi napravi medija galeriju:
- self user registration with email confirmation
- administration panel (upload, delete files)
- log in allerts + detailed user activity
- pagination, thumbnails, media player, swipe support etc

mysql (mariaDB + php 7.x, apache 2.4.x), files served outside of www root via f.open and f.read.

Dobio sam:
SQL code za kreiranje baze, login.php, logout.php, index.php, media.php, serve_media.php itd itd ugl completan projekat koji je prakticno radio od prve, par syntax errors ali lako popravljeno.

Za nesto slicno sam placao izmedju 500 i 1500 eur prije samo petnaestak godina.

_________________
Нема ту чојека чим слави посну славу . . .

DeepSeek, slican zadatak:


Prompt:

za 30 sekundi napisao kod, uputstvo za instalaciju itd.
Sledece:

Odradio.

"I'll create a comprehensive GUI application for counting distinct persons in images with all the requested features. Here's the complete solution:"
I jos:

Odradio,

I to odradio, installer radi i aplikacija radi, kao sto moze da se vidi. Sveukupno par minuta. Bez greske.

_________________
Нема ту чојека чим слави посну славу . . .

Нисам конкретно у том свијету, али генерално је напредак евидентан и свакодневно примјењив.

И даље је потребно имати мало појма шта се збива, чисто да би му искључио могућност глупе грешке, али дефинитвно отвара нове перспективе.


Рокере, како би примјенио господина да ми организује ИОС галерију и направи албуме у шуми слика, јел морам преко Виндоуса или могу у на меку да примјеним сличне процесе?

_________________
Није Слобо крив, ми смо говна!

Masa tih modela radi na m1+ procesorima, a python generalno radi na MacOS.
E sad kako ces smisliti prompt je drugo pitanje.

_________________
Нема ту чојека чим слави посну славу . . .

Ne treba ti moderni LLM AI za ovo, uzmi Exadel compreface, ima RasNET50 ili RasNET100 machine learning model na sebi, ubacis mu sve slike (Mozes kroz panel ili API, ima oboje), onda kad ubacis sve slike ubacis samo jednu gdje se osoba najbolje vidi i izbacice ti sve slike gdje ima, mozes koristiti i faceAPI on je jednostavniji i radi u browseru preko TensorAPI za browser.

Ovo ti je dosta brze nego da ides preko LLM-ova i preciznije, tehnologija postoji vec 20 godina, zasto moramo sve AI LLM fazoni

Evo ti par projekata koji su dobri za face recognition za koje sam koristio dok sam to radio:

https://github.com/vladmandic/face-api
https://github.com/exadel-inc/CompreFace (ima docker, CUDA)
https://github.com/serengil/deepface
https://github.com/deepinsight/insightface
https://opencv.org/ (computer vision, ali mogu i face)

Od placenih imas Amazon AWS ReKognition (512D vektori)

Ja bi preporucio Exadel definitivno, jer sam skontao na GPU CUDA kad radi ima match preko 99% za iste osobe nebitno od ugla lica, mislim da je max 256D vektor, dok na CPU model radi 128D vektore, ali to je dovoljno za vecinu stvari.

@Piro
Ne znam
Da li si procitao sve
Insightface modele i koristimo, grok je pisao gui i logiku.

_________________
Нема ту чојека чим слави посну славу . . .

Malo sam se raspisao, u svakom slucaju Exadel ima i GUI i logiku i bolje je uradjen

Necu da koristim docker

Nocas sam mu promptovao da konvertuje kod u c++ kaze daj bjezi lakse
Napisati novi projekat. Projekat je spreman, samo da kompajliram pa cu pisatii rezultat.

Ideja je da to bude portable ( kao sa python venv).

_________________
Нема ту чојека чим слави посну славу . . .

Pokušavam par dana dana da mi napravi programčić i nikako mi ne ide tj. ima grešaka ...

treba mi program koji bi iz dva datasheeta izvlačio (određene) tehničke specifikacije i da ih poreda po nazivu, problem je što proizvođači drugačije definišu tu specifikaciju. imate li kakav predlog? olakšali bi mi život

_________________

Ako podaci nisu struktuisani u istom formatu, nikako ili tesko, opcija je da saljes LLMu preko API te podatke u csv formatu pa ako on uspije da ih formatira tako ce raditi, proguglaj malo LLM function calling kako se radi.

ma najbolje je deepseek uradio... pošaljem mu dva datasheeta ili linkove, napravim spisak karakteristika koje su mi bitne i to na srpskom i izvuče podatke uredno i napravi tabelu, iako se svi ne nazivaju identično... kontah da bih mogao napaviti neku skriptu da imam jer često bude "server zauzet"

_________________

Neka ti napise python sa gui-em tako da mozes klikati ko gospodin

Apropo c++ koda, uspio sam kompajlirati nest sto je grok brljao, aplikacija se pokrene ali naravno ne radi mislim da bi trebalo par sedmica da se sve zavrsi, obzirom na prompt limite.

_________________
Нема ту чојека чим слави посну славу . . .

napiše... ali ne izvadi podatke kako treba... ili uošte ne izvadi... pišaj ga...

_________________

Pazi, svaki LLM oce da slaze i da izmisli nesto.
Evo sad mi deepseek popravlja project file za c++ app, i od jedne greske dosao do 20 nakon sto je "popravio"

_________________
Нема ту чојека чим слави посну славу . . .

i to sam pokušao... sličan slučaj... samo od 2 došao do 10... (doduše sve je i radio ja veze pojma neam)

_________________

Mali napredak sa C++ kodom. Konačno sam uspio kompajlirati sve, mukotrpan posao linkovati sve dependencies kako treba
Aplikacija startuje, podešavanja rade, odaberem sve klik start i prc
Poslao sam programeru da vidi dalje, pošto je izrazio interes.

..


Nije da ne izgleda lijepo

_________________
Нема ту чојека чим слави посну славу . . .

LOL kakav seronja:


Baš krene da izbacuje total BS ponekad.

_________________
Нема ту чојека чим слави посну славу . . .

meni je najače kad ispisuje šta "razmišlja" ... "korisnik je primjetio grešku... u pravu je, ne znam od kud mi taj podatak.. .bla bla "

_________________