Welke soorten AI-modellen gebruikt Copilot?

76 weergaven
Copilot: Onder de Motorkap van de AI Copilot maakt gebruik van geavanceerde AI-modellen, waaronder een taalbegripmodel gebaseerd op een example-based aanpak, aangedreven door een diep neuraal model. Dit grootschalige model, getraind met enorme datasets via AI supercomputing, vereist slechts eenmalige training. Vervolgens kan het, met slechts een paar voorbeelden, effectief functioneren zonder verdere training.
Reactie 0 vind-ik-leuks

Welke AI-modellen gebruikt GitHub Copilot?

GitHub Copilot? Moeilijke vraag eigenlijk. Ik heb er zelf mee gewerkt, rond juni 2023. Geen idee welk model precies. Gewoon, die Copilot Studio…

Het werkte, punt. Code gegenereerd, snel. Voorbeelden gaf ik, en hoppa, code klaar. Niet echt ingegaan op technische details. De innerlijke werking… geen flauw idee.

Diepe neurale netwerken, zoiets hoorde ik wel eens. Grote datasets, training… ja, logisch. Maar precies welk model? Dat weet ik echt niet. Een geheim recept, denk ik. Het resultaat telde.

Welke AI zit er achter Copilot?

Copilot gebruikt een complex, niet publiekelijk bekendgemaakt AI-model. Denk aan het als een heel slimme papegaai, getraind op een enorme dataset code en natuurlijke taal. Deze dataset omvat miljarden regels code van open-source repositories en documentatie.

  • Het is geen specifieke, afgebakende AI zoals ChatGPT of Bard. Het is eerder een aangepaste, interne ontwikkelde architectuur.
  • De kern is een geavanceerde versie van Transformer-netwerken. Dit soort netwerken blinkt uit in het begrijpen van context en het genereren van coherent tekst. Vergelijkbaar met wat je ziet in Google Translate, maar dan vele malen complexer en gespecialiseerd voor code.
  • Het leert continu bij door interactie met gebruikers. Elke prompt, elke aanpassing, verfijnt het onderliggende model. Het is een evoluerend systeem, in constante beweging. Eigenlijk, een beetje filosofisch gezien, is het een kunstmatige intelligentie die zichzelf steeds opnieuw creëert.
  • De training omvat waarschijnlijk technieken zoals "Reinforcement Learning from Human Feedback" (RLHF). Dit wil zeggen dat menselijke feedback wordt gebruikt om de kwaliteit van de gegenereerde code te verbeteren.
  • Het is een enorme onderneming. Denk aan jaren van ontwikkeling, enorme rekenkracht en een team van top AI-experts.

Het blijft een gesloten systeem, met goede reden. De details van de architectuur zijn bedrijfsgeheim. Maar de basisprincipes zijn te herkennen. Denk aan een gigantisch, georganiseerd web van neurale netwerken. Prachtig, toch?