La femme de son premier mariage était Catherine Svanidze, une Géorgienne qui priait Dieu pendant que son mari prêchait l'athéisme. II ne l'em­pêcha pas de pratiquer sa religion. D'après les Mémoires de ses amis, ce mariage fut heureux. En 1906, naquit un enfant mâle qui fut appelé Jacob. Au bout d'un an, Catherine mourut de tuberculose. Un camarade de jeunesse de Staline qui assista à l'enterrement écrivit que Staline, (l'humeur sombre, plaça sa main droite sur son coeur, et désignant le cercueil, dit :
— Cette créature a adouci mon coeur de pierre. Elle est morte et, avec elle, sont morts mes derniers sentiments chaleureux pour toutes les créatures humaines.

Jacob, le bébé orphelin, fut élevé par les parents de Catherine. Comme adolescent, il passa plusieurs années au Kremlin avec son père qui le battait lorsqu'il fumait. Plus tard, il vécut à part et préféra ne pas attirer l'attention sur sa parenté avec son père. A un certain moment, il travailla au chemin de fer, en Sibérie, et ce fut peut-être comme humble mécanicien de locomotive qu'il servit pendant la Seconde Guerre mondiale. Les nazis le firent prisonnier et il passe pour s'être suicidé dans un camp allemand.