[ancilo]

Med Ancilo ville jeg prøve ut to ting: gjøre lokal KI tilgjengelig for mennesker uten teknisk bakgrunn, og utvikle en app i Rust selv om jeg ikke behersker programmeringsspråket. Resultatet er en app for samtaler, dokumenter, oppgaver og kodearbeid som kjører KI-modeller på brukerens egen datamaskin.

Enklere oppsett av lokal KI

Applikasjonene jeg hadde prøvd, opplevdes som mer eller mindre tungvinte. Den som kjenner datamaskiner og programmering, kan arbeide seg gjennom et slikt oppsett. Jeg ville lage en app for mennesker som bare ønsker å prøve lokal KI, uten først å måtte sette seg inn i det tekniske miljøet rundt modellene.

Ancilo veileder derfor brukeren gjennom valg og nedlasting av en modell. Oppsettet tar hensyn til datamaskinen og gir innstillinger for hvor mye av ressursene KI-en får bruke. Samtaler, dokumenter og oppgaver er samlet i én app for å gjøre både oppstarten og den daglige bruken enklere.

Maskinvaren setter fortsatt grenser: tilgjengelig minne og prosessorkraft påvirker hvilke modeller som fungerer godt. Lokal behandling holder innholdet på datamaskinen, mens valgfritt nettsøk og skymodeller innebærer forbindelser til eksterne tjenester. Produktnettstedet forklarer disse forskjellene og kravene nærmere.

Rust-utvikling med to kodeagenter

Det andre spørsmålet gjaldt min egen arbeidsmåte. Jeg ville undersøke om kodeagenter kunne hjelpe meg å utvikle en app i et språk jeg ikke behersker. Grunnlaget utviklet jeg med Claude Code. Underveis tok Claude Code gjentatte ganger kontakt med Codex for å kontrollere valg, få kodegjennomganger og arbeide med forslag til endringer.

Denne utvekslingen var en del av utviklingen helt fra starten. Etter min vurdering bidro den tidlig til et høyt kvalitetsnivå. Appen fungerer for meg, og jeg er svært begeistret for resultatene så langt. Det er min erfaring med dette prosjektet; den gir ikke grunnlag for en generell påstand om hvor pålitelig KI-generert kode er.

Eksisterende implementeringer som referanse

Jeg sjekket ut kildekoden til OpenCode og Codex i mapper ved siden av Ancilo-prosjektet. Agentene kunne studere løsninger fra eksisterende kode- og samtaleagenter og bruke dem som referanse i utviklingen. De trengte dermed ikke å utforme alle grunnleggende mekanismer fra bunnen av.

Ancilo kan nå også ta imot avgrensede oppgaver fra Claude Code eller Codex og utføre dem med en lokal modell. Agenten som ga oppdraget, får resultatet tilbake for videre behandling. At denne oppgaven kjøres lokalt, gjør ikke hele arbeidsflyten til den eksterne agenten lokal.

Ancilo-nettstedet beskriver funksjoner, krav og de første stegene. Kildekoden på GitHub er tilgjengelig under Apache 2.0; bidrag, feilrapporter og konkrete funksjonsønsker er velkomne.