1889 byggdes i Limhamn den äldsta bevarade delen av den skola, som längre fram fick namnet Karl Johanskolan. Man nöjde sig till en början med ett våningshus, R F Berg och Skånska Cement AB var byggmästare.

Först hette skolan Hyllie nr 28 eftersom skolan som flyttade in i det nya huset hette så. Det var inte förrän 1915 som skolan fick namnet Karl Johanskolan.

Enligt ett gammalt protokoll står att det 1889 även byggdes en förskolelärarbostad som inreddes med tapeter för 30 öre/rulle. Skolan var kall och dragig trots nya ugnar så när temperaturen sjönk under sex grader ställdes lektionerna in.

De första lärarna som tjänstgjorde på Karl Johanskolan var folkskolelärarinnan Hedda Boström och småskolelärarinnorna Botilda Andersson, Anna Olsson och Helena Boström.

Ämnena på schemat var: katekes, biblisk historia, läsning, skrifning, räkning, fäderneslandets geografi, människokroppens organ med mera.