“抖音黑板报”指，该平台重点处置几类AI生成不当内容及侵权场景，如利用AI技术换脸、盗声等违规行为，且为防范AI盗用名人肖像等侵权行为，平台正持续建立完善典型案例样本库，结合大模型识别、技术巡检与举报资讯，对样本库内权利人相关的AI侵权内容进行及时干预和处置。
例外，该平台也将处置透过AI“魔改”传统文艺作品经典，传播不良内容，血腥暴力、色情低俗等违规内容，并对违规帐号采取梯度处罚措施。“对涉嫌违法的行为，平台也将及时上报有关部门，配合开展执法”。
抖音指，已累计下架AI仿冒蹭热视频逾36万则，处置AI肖像、AI声音类侵权内容8.5万则，并对部分严重违规的帐号予以禁止投稿、封禁帐号权限等梯度处罚，维护清朗抖音社区生态。
港媒星岛日报报导，“AI霸总”是该平台近期高发违规类型，如用AI换脸、合成语音，批量制造“成熟多金、深情儒雅”的虚拟男性形象。在视频里以西装革履、豪宅豪车形象，还单膝跪地求婚、承诺送房送车，即使标注“AI生成”，不少年长者仍信以为真，在评论区留电话等联络方式。
陆媒近期也曝光不少案例，如70岁妇人被AI霸总诱导“点橱窗帮衬生意”，最后高价囤积保健品、日用品；八旬老太太付费“学电商”，轻信“总裁恋人”话术，花2,000元人民币买所谓“致富课程”，实则毫无价值。报导指，这类内容利用年长者情感孤独、数位辨别力弱的弱点，以“黄昏恋”、“真情陪伴”为诱饵，实则是流量变现、带货诈骗的产业链。
