银行卡开通短信是可以在手机上进行开通的，以工商银行开通短信为例，具体步骤如下：

1、登录“中国工商银行APP”账号进入其首页，在搜索栏搜索“工银信使”选项。

2、点击“工银信使”，进入定制信使的页面，然后根据系统提示选择短信提醒的相关卡号。

3、点击“下一步”进入“定制余额变动提醒”的页面，根据系统提示进行相关操作并缴费即可。