As principais regras do Rummikub giram em torno do agrupamento das peças coloridas e numeradas em grupos de pelo menos três. Para se qualificar como um "conjunto" ou grupo, as peças podem ter o mesmo número e cores diferentes ou podem ser todos da mesma cor e numericamente em sequência.
Rummikub vem com arquibancadas especiais nas quais os jogadores podem alinhar suas peças. Para começar o jogo, todas as peças devem estar voltadas para baixo. É melhor colocá-los de lado para deixar um grande espaço vazio no meio para o jogo. Cada jogador seleciona quatorze peças e as coloca em seu suporte de peças. Para começar a jogar, um jogador deve ser capaz de estabelecer um total de trinta pontos, determinados simplesmente adicionando o valor dos números nas peças jogadas. Cada conjunto ou grupo deve ter no mínimo 3 peças, compartilhando o mesmo número ou cor (com números em uma fileira) conforme descrito acima. Depois de estabelecer seus conjuntos, os jogadores terminam cada turno pegando uma nova peça da pilha voltada para baixo. Os pontos podem ser contados ao longo do jogo, mas o vencedor é a pessoa que ficar sem fichas primeiro. Existem também dois "jokers" que podem ser jogados com qualquer número ou cor. Durante o jogo, os jogadores podem mover conjuntos, pegando emprestado de uma jogada anterior ou adicionando a ela. Quando as peças são movidas, no entanto, cada grupo deve continuar a ter no mínimo 3 peças.
