سنّ کمِ او در هنگام شهادت پدر، سبب شد تا شماری از اصحاب امام رضا(ع)، در امامت او تردید کنند؛ برخی عبدالله بن موسی را امام خواندند و برخی دیگر به واقفیه پیوستند، اما بیشتر آنان امامت محمد بن علی(ع) را پذیرفتند.
ارتباط امام جواد(ع) با شیعیان، بیشتر از طریق وکیلانش و به شکل نامه‌نگاری انجام می‌گرفت. در دوره امامت امام نهم شیعیان، فرقه‌های اهل حدیث، زیدیه، واقفیه و غلات فعالیت داشتند. وی شیعیان را از عقاید آنان آگاه می‌کرد و از نماز خواندن پشت سر آنها نهی و غالیان را لعن می‌نمود.
مناظرات علمی امام جواد(ع) با عالمان فرقه‌های اسلامی در مسائل کلامی، همچون جایگاه شیخین و مسئله‌های فقهی مانند حکم قطع کردن دست دزد و احکام حج، از مناظرات معروف امامان معصوم دانسته شده است.