Het bedrijf werd in juni 2010 opgericht door Lei Jun. Mi is de naam waaronder de producten aan het grote publiek worden verkocht. Bij het begin lag de focus op een verdere ontwikkeling van het Android besturingssysteem voor mobiele telefoons. MIUI, afkorting voor Mi User Interface, bracht kleine modificaties naar de markt. Na installatie op de telefoons stuurden de gebruikers hun ervaringen terug, hetgeen weer de basis is voor verdere verbeteringen. Het geld werd verdiend met betaalde diensten als spelletjes en opslagruimte.

De eerste smartphone van Xiaomi, de Mi1, werd in augustus 2011 gefabriceerd. Het was minder goed dan de Apple telefoon, maar goedkoper en beter dan de Samsung smartphones. Na deze succesvolle release heeft Xiaomi regelmatig nieuwere modellen uitgebracht en de activiteiten uitgebreid naar andere landen. Vooral in India heeft Xiaomi een belangrijke marktpositie opgebouwd met Redmi, een serie goedkope smartphones. In 2012 werd een omzet gerealiseerd van meer dan 1 miljard dollar en twee jaar later steeg de omzet boven US$ 10 miljard. Naast het verkopen van eigen producten heeft Xiaomi in samenwerking met bedrijven zoals Yeelight en YI Technologie verschillende producten uitgebracht zoals de Yi Action Camera en slimme lampen.

In 2015 werd de eerste Mi Home winkels geopend in China. Tot die tijd werden alle producten via internet verkocht. In 2017 waren er al ruim 300 winkels actief en per jaareinde 2020 was dit gestegen naar 3200.

In maart 2021 maakte Xiaomi bekend in het komende decennium zo'n US$ 10 miljard te gaan investeren in elektrische voertuigen. Het bedrijf volgt daarmee concurrenten als Apple Inc. en Huawei die recent vergelijkbare investeringen bekend hebben gemaakt. De bedrijven zien hierin een rol omdat de zelfrijdende auto veel communicatieapparatuur zal bevatten.