Der Ursprung des Koi liegt nicht wie eigentlich angenommen in Japan, sondern die Vorfahren der Koi kamen aus dem schwarzen Meer, dem Kaspischen Meer, dem Aralsee und China. Dort wurden dann auch die ersten schriftlichen Dokumente über Koi hinterlegt.
Als der König Shoko von Ro seinen ersten Sohn bekam soll er dem chinesischen Philosophen Konfuzius einen Koi geschenkt haben. Der Philosoph benannte seinen Sohn nach dem Geschenk. Der Koi, der als einziger Fisch die Wasserfälle des Gelben Flusses bezwingen kann, symbolisiert dadurch Stärke
Man konnte bereits um 530 v.Chr. in dem Buch "Yogyokyo" über die Koizucht lesen.
In dieser Zeit
Gab es nur graue und rote Varianten des Karpfens. Die Farbmutationen spielten zu dieser Zeit für die Zucht noch keine Rolle, da der Koi zur Bereicherung des Speisezettels diente.
Durch die Eroberungszüge der Chinesen gelangte der Koi irgendwie nach Japan. Hier wurde der Koi erstmals um 200 n. Chr. Schriftlich erwähnt. Was mit den Koi zwischen dem 2.und 17. Jahrhundert geschah, konnte bisher noch nicht geklärt werden.
Am Anfang des 17.Jahrhunderts setzt sich die Koigeschichte fort. Reisbauern aus Yamakoshi go setzen Karpfen in den Bewässerungsteichen aus um so den kargen Speiseplan etwas zu erweitern.

Da der Ort hoch in den Bergen sehr abgelegen und in den Wintermonaten schwer zu erreichen war, waren die Einwohner auf Nahrungsmittel angewiesen die aus der unmittelbaren Umgebung zu beziehen waren. Dadurch wurde der Bezirk Nijgata zum Mittelpunkt der Koi-Zucht in Japan.
Am Anfang des 18.Jahrhunderts fielen den Züchtern erstmals diese Farbmutationen auf. Am Anfang entstanden hauptsächlich auf rote, weiße und hellgelbe Koimutationen.
Koi sind direkte Abkömmlinge des schwarzen Karpfens Cyprinius carpio. Dieser Urahn aller Zuchtkarpfen wird in Japan Magoi genannt.
Um die Mitte des 18. Jahrhunderts entstanden dann die ersten Kohakus durch Kreuzung von weißen und roten Karpfen. In den 80ern des 18. Jahrhunderts wurden die heute noch bekannten Varietäten, wie Asagi, Higoi und Bekko durch Kreuzungen gezüchtet.
Durch sehr aufwendige Zucht erreichten einige Zuchtformen hohe Qualität nur innerhalb weniger Generationen.
Am Ende des 18. Jahrhunderts entstand in Europa eine Mutation die nun einen erheblichen Einfluß auf auf die Koizucht nehmen sollte. Die genetische Abweichung betraf ausschließlich die Schuppen, die zu Karpfen ganz ohne diese führte (Lederkarpfen) oder zu Spiegelkarpfen, sie besaßen großen glänzenden Schuppen entlang der Rückenlinie. Die Fische mit dem deutsch/österreichischen Ursprung wurden dann unter dem Name Doitsu bekannt.
Auch diese Züchtung war ursprünglich für den Verzehr gedacht. Eben diese Karpfen gelangten am Anfang des 19. Jahrhunderts nach Japan. Um 1910 sollen daraus die ersten Shusui (oder Doitsu Asagi) entstanden sein. Die Koizucht in Japan beschränkte sich zu Beginn des 20.Jahrunderts erstmal auf die Niigata-Region. Im Jahre 1914 schickte man 27 Koi zu einer großen Ausstellung nach Tokio, um die schlechten Verhältnisse der armen Bevölkerung in dieser Region zu verbessern. Die Koi gewannen den zweiten Preis bei der Ausstellung.
Aus diesem Ereignis heraus entwickelte sich dann eine blühende Koizucht, die Aufgrund der Wirtschaftsflaute in Japan (um 1920) zum Erliegen kam. Trotz des herrschenden Futtermangels während des zweiten Weltkrieges, etablierten sich neue Zuchtformen wie Shiro Bekko und Showa. Die Koizucht in Niigata gelangte wieder zu neuer Blüte, wovon auch der Bau von Straßen und Bahnlinien der Region profitierte.Durch die spätere Kommerzialisierung der Luftfahrt, konnte die Transportdauer sehr stark verkürzt werden. So gelangten zum ersten Mal 1938 per Luftfracht Kois aus Japan nach San Francisco, 1947 nach Hawai, 1949 nach Kanada und 1953 nach Brasilien. Der Koiboom führte außerhalb Japans dazu, dass in vielen Ländern die Kois selbst gezüchtet wurden. Sehr viele Koihändler beziehen ihre Verkaufsexemplare aber immer noch aus Japan, aufgrund der sehr hohen Qualität.