Ты не очень понял, видимо, что такое гит.
Гит - это такая программа для версионирования кода, на этом все.
Ты можешь использовать эту программу локально у себя на компьютере и хранить версии в папочке. Можешь на втором компьютере развернуть сервер и хранить версии и локально, и на этом втором компьютере.
Например гитхаб - это огромный второй компьютер, на который всем разрешают складывать свои версии. Есть и другие, например гитлаб, битбакет. Есть, например, мой личный гит сервер, на моем личном сервере, куда складываю версии только я.