Pharell Williams tem quatro irmãos: Cato, Psolomon, Pharaoh e David. Pharaoh Williams III e David Williams são seus meio-irmãos do primeiro casamento de seu pai com Vanessa T. Williams. Cato, Psolomon e Pharell têm todos o mesmo pai e mãe, Pharaoh Williams e Carolyn Williams.
Cato Williams é skatista profissional, enquanto David Williams é vendedor em Delaware. Pharell é o filho mais velho; ele é 10 anos mais velho que Cato e 20 anos mais velho que Psolomon. Ele cresceu com seus irmãos em Virginia Beach, Virginia. Pharell Williams é casado com Helen Lasichanh, e o casal tem um filho, Rocket Williams.